新规重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理

文｜ 《财经》研究员 樊朔

编辑 | 郭丽琴

人工智能技术为生成合成文字、图片、音频、视频等信息提供了便利工具，同时也产生了滥用生成合成技术、虚假信息传播扩散加剧等问题。

3月14日，国家网信办、工信部、公安部、广电总局联合发布《人工智能生成合成内容标识办法》（下称《标识办法》）以规范人工智能生成合成内容标识。

标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

其中，《标识办法》明确，人工智能生成合成内容服务提供者在提供智能写作、合成人声、人脸替换等可能导致公众混淆或者误认的深度合成服务时，应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加文字、角标、语音、节奏等显式标识。在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

《标识办法》将于2025年9月1日起施行。

此外，配套《标识办法》，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（下称《标识标准》），已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，将与《标识办法》同步实施。

中国政法大学数据法治研究院教授、联合国人工智能高层顾问机构中方成员张凌寒表示，《标识办法》是在人工智能生成合成内容生产传播、使用的链条上，通过隐式标识和显示标识的具体规定，在不影响用户体验的情况下，尽量去杜绝虚假有害信息内容的传播，并且为相关内容的进一步追溯提供和创造条件。

AI谣言泛滥，周杰伦、雷军曾躺枪

AI谣言的传播已多次引发社会关注。

2025年3月，“某超一线男星在澳门豪赌输掉10亿至20亿元”的消息在网络上广泛传播，引发大量猜测和热议，许多网友将矛头指向周杰伦。对此，周杰伦的经纪公司“杰威尔音乐”于3月11日发布辟谣声明，明确指出该传闻与周杰伦无关，并呼吁公众勿再以讹传讹。

3月14日当天，公安部网安局公布相关调查结果。网民徐某强于2025年3月10日10时，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并通过互联网平台对外发布，造成谣言迅速传播扩散，严重扰乱公共秩序，徐某强被处以行政拘留8日处罚。

2025年1月，西藏日喀则地震期间，一张被压在废墟下的儿童图片被大量转发，但实际上该图片是AI生成的，并非真实灾区影像。

2024年国庆期间，大量使用AI技术伪造的“雷军”配音视频广泛传播，内容涉及对国庆堵车、调休、游戏等热门话题的吐槽，甚至包含低俗谩骂等不当言论。这些视频因高度还原雷军的声音特征而引发广泛关注，播放量超1.2亿次。

雷军在2025年全国两会期间表示，此类AI换脸和拟声技术滥用已经成为违法侵权的重灾区，他本人也因此陷入“被骂8天”的维权困境。

生成、传播时应添加标识

《标识方法》将标识分为显性标识和隐性标识。

对于显性标识，《标识办法》明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

具体而言，对于文本，服务提供者应当在起始、末尾或中间适当位置添加文字提示或通用符号提示；对于音频，应当在起始、末尾或中间适当位置添加语音提示或音频节奏提示；对于图片，应当在适当位置添加显著提示标识；对于视频，应当在起始画面、播放周边或中间适当位置添加显著提示标识；对于虚拟场景，应当在起始画面或持续服务过程中适当位置添加显著提示标识。

此外，AI服务提供者应在生成合成内容的文件元数据中添加隐式标识，包含内容属性信息、服务提供者名称或编码、内容编号等制作要素信息，鼓励添加数字水印等形式的隐式标识。

《标识方法》规定，应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

张凌寒透露，对于内容生产者在上传需要标识但未标识的生成合成内容，如何设定传播平台的义务，在《标识方法》制订过程中，尤其受到关注。

《标识方法》第六条规定，传播平台应该采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容，包括：核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的；文件元数据中未核验到隐式标识，但用户声明为生成合成内容的；文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但检测到显式标识或者其他生成合成痕迹的。

《标识方法》规定，任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

从源头遏制AI虚假信息

国家网信办相关负责人答记者问时表示，《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。

考虑到企业需要时间充分理解相关规定和标准规范，针对性地开展能力建设和功能研发，基于标识技术实施的复杂程度、试点试行的实践经验，设定《标识办法》和配套强制性国家标准六个月左右的施行过渡期，将于2025年9月1日起施行。

张凌寒表示，《标识方法》是为了明确AI生成合成内容的标识的具体的方法，对此前出台的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者开展人工智能生成合成内容标识活动进一步衔接。

吴沈括认为，《标识方法》一方面是有助于从源头来遏制AI虚假信息内容的生成、传播和扩散；另一方面，通过内容可验证的机制设计，提高网络空间中信息内容本身的可信性和真实性。

责编 | 张生婷