DeepSeek、微信、抖音集体 “打标”,能防住 AI 诈骗吗?

被 AI 糟蹋的互联网,靠 AI 标识重回清净?

过去几年,AI 生成内容大量涌入我们的生活,但 AI 往往 “隐身” 幕后,这种 “看不见的存在” 自 9 月 1 日起就要被终结了。

你在抖音滑到的视频,B 站的科普动画,快手的带货直播,甚至新闻推送中的一段文字,都必须告诉你这是否是 AI 生成的。如果是 AI 生成的却没有标识,那就是违规。

通过浏览各大内容平台发现,大量 AI 生成合成图像、视频类内容已经标识了 “AI 生成” 或 “疑似 AI 生成的内容”;与此同时,文本类 AI 合成内容很多未被标识,这类内容识别起来仍有难度。

9 月 1 日起,国家网信办、工信部、公安部、广电总局联合发布的《人工智能生成合成内容标识办法》(简称:《办法》)正式实施。办法明确要求,所有 AI 生成的文字、图片、音频、视频及虚拟场景内容,都必须带有显式或隐式标识,不能再 “混迹” 于真人创作之中。

强制性的国家标准《网络安全技术 人工智能生成合成内容标识方法》于 9 月 1 日与《办法》同步施行,在监管维度建立审核、监测、追责的闭环机制,在技术维度规范标识体系。

办法启动实施之际,腾讯、小红书、新浪微博、抖音、快手、B 站等各大主流内容平台,以及 DeepSeek、腾讯(元宝)、百度、智谱清言、MiniMax、商汤、昆仑万维等大模型厂商纷纷发声,宣布已全面落实新规。AI 不再是幕后 “隐身人”,而要以一种可见、可查的方式与我们共存。

各家内容平台都提出创作者主动声明和平台标识合规;大模型服务厂商主要是提出对所有生成内容添加显式与隐式标识,引导提醒用户不得删除或伪造标识。部分内容平台及大模型厂商也颁布了内容下架、限流、永久封禁等处罚条例。

不过,政策初执行仍存在一些问题和争议。在不少作者支持并主动标识 AI 生成合成内容的同时,也有一些创作者认为 AI 内容打标不应该一刀切,建议根据 AI 参与程度进行精细管理。也有用户被 “误伤”,原创内容被识别为 AI 生成却申诉无效,或主动打标后仍被限流处置,这些都是《办法》落地 “三层检测” 机制仍需完善的地方。

长期来看,对用户来说,这或许是一次信息生态的巨变;对平台和厂商来说,则是一次合规大考。

《办法》落地 3 天:有人支持防骗,有人抱怨误伤、限流

《办法》明确,AI 生成合成内容是指利用 AI 技术生成、合成的文本、图片、音频、视频、虚拟场景等信息,这些内容必须通过显式标识 + 隐式标识两种方式加以区分。

显式标识:如文字水印、角标、语音提示,直接提醒用户内容由 AI 生成。隐式标识:通过元数据、数字水印等技术手段隐藏在文件中,用于内容溯源和事后追责。

中国人民大学未来法治研究院执行院长张吉豫指出,《办法》设置了 “三层检测” 机制:若能通过元数据的隐式标识确认内容是 AI 生成,应直接标识;若仅能通过算法推测,则标识为 “疑似 AI 生成”,避免误伤原创。同时,专家建议平台应建立申诉渠道,允许用户提交证据复核,保障创作者权益。

在产业层面,专家指出若未经标识的 AI 内容流入公共数据集,会造成 “数据污染”,影响大模型训练的可靠性。《办法》从源头杜绝了这一风险。同时,强制标识也有助于保护传统内容产业、减少侵权与诈骗,并降低平台的合规成本。

《办法》一经实施,受到了广大用户的支持。不少用户认为,原创作者的权益终于能得到保护;同时,不少用户建议平台增加 “一键屏蔽 AI” 的功能,认为看多了 AI 视图已有视觉疲劳,希望看纯人的内容。

同时,有一些用户也提出了异议。有的用户认为 AI 内容打标不应该一刀切,有的作品中 AI 部分占比不到 50%,建议平台推出更加细致的管理方式,不要打击真正想要利用 AI 来创造的人;也有用户认为打标水印像牛皮藓一样难看,希望用别的方式完成标识。

此外,也有用户反映,内容平台在政策实施初期存在 “误伤” 情况。有用户称,自己的笔记没有用到任何 AI 生成内容,都是手机实拍,但也被打上了 “笔记含 AI 生成内容” 的标签;也有用户哭诉:“为什么打标机还被限流一个月啊?”、“申诉了无数次都没用”。可见,专家提出的 “三层检测” 机制要完善,仍需要时间去落实。

主流内容平台都行动了:违规或被限流、下架、封号

随着《办法》施行,国内主要内容平台迅速行动,发布公告明确标识规则,部分平台还宣布对不主动标识 AI 生成内容的行为采取了限流、下架内容、封号等措施。

8 月 29 日,小红书官方账号发布其关于 AI 生成合成内容标识的公告,提出创作者主动声明和平台标识合规。用户可通过发布界面点击设置 → 内容类型声明→ 勾选 “笔记含 AI 合成内容” 添加标注。对于未主动声明的 AI 生成合成内容,平台有权基于法律法规要求,添加显式或隐式标识,用户不得恶意删除、篡改或隐匿相关标识。

当我们进入小红书,发现不少内容已经被标注了 AI 生成标识。但当涉及一些 AI 生成的文本内容,比如一些博主明确称内容为 DeepSeek 回答,内容页面仍未出现自动标识和平台识别标识。

同日,新浪微博官方号宣布其将按照《办法》要求,落实 AI 标识工作。用户需要自主声明;站方在用户发布侧已增设 AI 内容自主声明的基础上,在投诉侧增加 “未添加 AI 标识” 投诉分类;站方将对平台内识别到的的 AI 生成内容依规添加隐式标识及显式标识。

登陆新浪微博平台,暂发现仍有不少博主发布的涉及 AI 生成图的内容没有标识。B 站也于当日提前上线 AI 生成内容标识功能。UP 主在投稿时可主动声明 “该视频使用人工智能合成技术”,否则平台将依规自动添加标识。B 站表示将持续优化 AI 治理链路,维护社区秩序。

当我们进入 B 站,可以看到作者声明的标识会出现内容标题的下方。9 月 1 日,腾讯旗下多个平台宣布将对 AI 内容添加显式与隐式标识。腾讯微信公众平台、腾讯音乐、QQ 安全中心分别出台细则,要求生成内容必须带标识,以保障透明度和合规性。

腾讯音乐集团旗下 QQ 音乐、全民 K 歌、酷狗音乐、酷我音乐等已在歌曲、图片等内容中,通过文字说明、水印提示等显性方式标注;通过元数据嵌入和防护等技术,在 AI 生成合成内容中添加隐式标识。

抖音于 9 月 1 日宣布升级 AI 内容标识功能,推出两大核心措施:一是 AI 内容标识功能,要求创作者主动为 AI 生成内容添加提示标识,页面会显示 “作品含 AI 生成内容”;二是元数据标识读写功能,支持平台识别 AI 内容元数据并写入传播要素,确保溯源。

发布 AI 内容时,创作者需选择 “高级设置 -> 发文助手自主声明 -> 内容由 AI 生成”,主动添加提示标识。若创作者未主动添加标识,抖音将运用技术手段检测疑似使用 AIGC 技术生成的内容,并为其添加 “疑似使用了 AI 生成技术;如抖音核验出内容元数据中的隐式标识信息,将在作品页面添加 “作品含 AI 生成内容” 的标识。

快手公告称,所有 AI 内容均需带有 “AI 生成” 显式标识及嵌入元数据的隐式标识。平台会在疑似 AI 生成内容周围添加显著提示,并禁止用户篡改或删除标识。

大部分内容平台对不主动标识 AI 生成内容的行为采取限流措施,也有部分平台采取下架内容、封号等更严厉措施。

DeepSeek、元宝、商汤等表态:生成内容全带标识,模型透明合规化

不仅是内容平台,大模型厂商也积极表态,将合规作为核心责任。

腾讯元宝团队于 8 月 31 日率先发布公告,宣布已建立 AI 内容标识管理体系,并对所有生成内容添加显式与隐式标识,确保透明与安全。

DeepSeek 在 9 月 1 日发布公告,宣布平台已全面添加 AI 生成内容标识,并提醒用户不得删除或伪造标识。DeepSeek 还发布《模型原理与训练方法说明》,公开模型原理、数据来源及生成机制,保障用户知情权。

《模型原理与训练方法说明》特别指出,模型存在 “幻觉” 风险,因此在生成内容末尾均有提示标识,提醒用户谨慎使用。

文心一言关于全面落实《人工智能生成合成内容标识办法》的公告提到:针对文本、图片、表格、网页等不同类型的 AI 生成合成内容,文心一言已统一添加显式标识,并在元数据中嵌入隐式标识。用户生成的 AI 内容将自动附加平台标识文案,任何删除、篡改、伪造、隐匿生成标识的行为均属违规。

“大模型六小虎” 纷纷行动。智谱清言于 9 月 1 日发布公告:所有通过智谱清言平台生成的文本、图像及视频内容,均须通过 “显式标识” 与 “隐式标识” 双重认证。显式标识通过直观的水印、文字声明等方式;隐式标识则利用元数据嵌入等前沿技术,为每一条内容打上 “数字身份证”。

Minimax 旗下海螺 AI 则在 8 月 30 日提前发布公告,MiniMax 已全平台上线 AI 内容标识功能。9 月 1 日起 MiniMax 将对其平台内所有 AI 生成内容实施全面标识管理,内容创作发布者可自愿选择标注 “AI 合成” 标签。

作为 AI 上市公司,昆仑万维在 9 月 1 日发布的公告尤其措辞严厉。昆仑万维要求创作者通过本平台对外发布或进行二次传播 AI 生成内容时 ,必须在标题或首屏等显著位置添加 “#AI 生成 #” 话题标签 ,并在简介中清晰说明所使用的模型及版本号;⼀经发现擅自移除标识、 冒充人工创作、利用 AI 技术制作或传播虚假有害信息等违规行为 ,平台将采取内容下架、账号限流、永久封禁等处罚。

商汤科技也在 9 月 2 日发布公告称,旗下生成合成服务全面落实标识要求,所有文本、图片、音频、视频及虚拟场景生成内容均需带标识。用户不得恶意删除或篡改。

结语:技术 + 制度双轮驱动,净化 AI 生成内容生态

AI 生成内容 “亮明身份”,不仅是合规的要求,更是社会信任体系的重要一环。《办法》的实施,标志着我国在全球 AI 治理中走在前列,通过技术 + 制度双轮驱动,推动形成健康有序的内容生态。

对于公众而言,这一规定意味着大幅提升信息透明度;对于平台和厂商而言,这是推动合规化、标准化的契机,将减少侵权与诈骗,保护创作者和用户的权益;对于产业而言,强制标识避免了 “数据污染”,有利于 AI 技术的长期可信发展。

正如专家所言,“规范不是限制,而是发展的保障”。当 AI 生成内容不再 “隐身”,我们才能在透明、可信的数字环境中,迎来 AI 真正的普惠与繁荣。

为您推荐