国庆假期期间， 短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂，有网友调侃称“国庆上网被雷军骂了整整7天”。

除了吐槽外，视频里的“雷军”还称要投资某某大学。截至目前，平台上相关话题浏览量过亿。

但事实上，这些发言和雷军本人并无干系，而是AI配音所成。目前，相关短视频已被平台逐步下架。

“雷军AI配音”的恶搞视频截图

在雷军的微博评论区中，连日来不断有人留言询问此事。

10月7日晚，针对网友“为何骂人”的询问， 雷军回复了三个愤怒表情。

AI伪造音视频事件已发生多起

在社交媒体上用雷军AI配音已经形成一种创作风潮，各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿，B站上相关创作超过上百条。

记者查询发现，目前市面上有大量AI配音的小程序， 用户只需在程序内选择相应的人物声音并输入文字，便可借用他人的声音发表言论。

事实上，行业内，AI伪造音视频事件早已发生多起。

9月26日，安徽合肥市公安局高新分局确认，相关网传音频为AI伪造。9月27日凌晨，深圳言域科技有限公司发文称，三只羊事件使用的是“Reecho睿声”大模型，由卢文庆30秒的直播片段克隆生成，现在在加强安全管控措施。

律师解读

对此，北京京本律师事务所主任连大有律师对中青报·中青网记者表示，无论是普通人还是知名人士，未经其本人同意，擅自使用其肖像和声音进行编辑合成，甚至发布具有辱骂和诽谤性质的内容， 明显侵犯了其相关民事权利，如肖像权、名誉权等。

网络安全法数据安全法个人信息保护法科学技术进步法等法律对此均有规定；国家网信办等七部门联合公布并于2023年8月15日起施行的生成式人工智能服务管理暂行办法还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

连大有律师称，雷军可以依据民法典规定，要求恶搞者承担包括停止侵权、公开道歉、恢复名誉和赔偿损失等法律责任。如恶搞者的恶搞行为违反治安管理处罚法相关规定的，也会面临行政处罚如行政罚款或(和）行政拘留。再者， 如果这些恶搞内容传播谣言并造成严重社会影响，则可能触犯刑法。

垦丁律师事务所联合创始人欧阳昆泼分析称，对于深度合成技术的标识义务，已有相关法规要求在使用合成内容时进行标识，各个社交平台也已采取了相关措施，会在AI生成的内容旁标注类似于“本内容为AI生成”的内容。然而，在实际操作中，对AI生成内容标识仍存在一定挑战。例如，合成内容经二次传播后，标识就可能被省略或忽视，导致接收方对内容来源产生误解。这会是接下来各个平台需要处理的课题。

“雷军”七天骂翻全网？谁之过？

虚假信息古已有之。如今，人人都有“麦克风”、人人皆是信息源，信息与新闻的界限日渐模糊，亦真亦假的消息、汹涌澎湃的情绪，让舆论场跌宕起伏，过山车般的反转更是天天可见。

如果说，之前的人工造假只是1.0版本，那么AI的发达则开启了深度伪造与低价量产的2.0时代。换脸、换声、换动作，移花接木；文生文、文生图、文生视频，无中生有……当几千元即可定制整套虚拟形象，当寻常软件分分钟生成一批内容详细、真假难辨的文章，当几张图片、几个关键词就能轻松炮制“新闻”，我们该如何应对？

假信息激增是全球问题，国外政要官员、商企精英、歌手明星等，无不遭遇“碰瓷”。 流水线式造假，不仅侵犯隐私权益、混淆公众认知，更带来巨大的风险隐患。2024人工智能安全报告显示，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案案值已超过1.85亿元。

信息最终都要作用于人，传播媒介的代际更迭，总会对受众产生深远影响。 技术进步带来了“信息的洪流”与“选择的苦恼”，我们也应适当提升媒介素养，尝试突破“信息茧房”，对于所谓的“网络热点”及吸睛信息，不可盲目相信、轻易转发，可以多问几个“真的吗” ？更进一步，也有必要有意识地优化媒介使用策略，平衡信源，改善“信息偏食”、拒绝“偏听偏信”。

AI本身就是“人为”创造的，也应该“为人”所用、“为人”服务，我们理当对携手行动、以善治实现善“智”抱有足够信心。

综合中国青年报、21世纪经济报道、北京商报、北京日报长安观察

编辑： 雷彬