当前位置: 首页 » 资讯 » 人物资讯 » 正文

“假雷军” AI 闹剧:七天骂翻全网,警惕AI声音侵权红线

IP属地 北京 编辑:陈阳 卓聚知识产权 时间:2024-10-11 11:00:17

国庆假期,短视频平台出现大量 “雷军” AI 配音的恶搞视频,话题浏览量过亿。视频中 “雷军” 言辞犀利、爆粗口,引发争议。这不仅涉及 AI 技术滥用,还可能侵犯了雷军的声音权益等知识产权,相关平台正逐步下架视频。

“国庆上网被雷军骂了整整7天”?

国庆假期期间,短视频平台上出现了大量 “雷军 AI 配音” 的恶搞视频。这些视频中,“雷军” 对堵车、假期等热门话题进行锐评,其中还夹杂着一些不雅谩骂的话语。 相关话题在平台上的浏览量过亿,相关创作超过上百条。

图源:抖音

在雷军的微博评论区中

不断有人留言询问此事

10 月 7 日晚

针对网友 “为何骂人” 的询问

雷军回复了三个愤怒表情。

图源:网络

10月9日

有网友在小米集团

公关部总经理王化评论区留言称

“把雷军AI语音骂人的事情

先解决一下吧”

对此,王化回复称

“已经转给他们(小米法务部)。”

图源:网络

经言域科技 CEO 谢伟铎确认,许多恶搞音频由网友使用其公司的 “reecho 睿声” 平台制作生成。该平台日活跃用户数攀升至几十万的量级,社交媒体上还有一些介绍使用 “reecho 睿声” 生成 “雷军” AI 配音的教程。用户除了自行上传雷军音频作为语料,还能直接使用其他用户在平台社区版块发布的音频素材。

AI 合成技术日益成熟,以假乱真的效果容易让普通人难以分辨真伪。这类视频的传播不仅会对当事人造成伤害,一旦泛滥,还会让每个人都可能成为被恶搞的对象,影响社会秩序和公序良俗。如果被用于造谣传谣、诈骗等违法活动,将对社会秩序造成极大的破坏。

目前,相关短视频已被平台逐步下架。这一事件也引发了人们对于 AI 技术应用边界和侵权问题的关注与思考。

AI伪造音视频事件已发生多起

事实上,在行业内,AI 伪造音视频事件早已屡见不鲜。

据21 世纪经济报道消息,此前,一段疑似某集团创始人卢文庆醉酒后的音频流出,音频中提及客服投诉、竞争对手以及与三位女主播的关系等内容,一时引发大量讨论。

图源:网络

9 月 26 日,安徽合肥市公安局高新分局确认,相关网传音频系 AI 伪造。 9 月 27 日凌晨,深圳言域科技有限公司发文称,“三只羊事件” 中使用的是 “Reecho 睿声” 大模型,由卢文庆 30 秒的直播片段克隆生成,目前该公司正在加强安全管控措施。

声音是否受到法律的保护

在 AI 技术快速发展的当下,AI 生成声音的应用愈发普遍,从媒体娱乐到客户服务,AI 配音技术为创作提供了新的可能性。然而,AI 配音一旦被滥用,便可能涉及侵权等问题。

网络安全法数据安全法个人信息保护法科学技术进步法等法律对此均有规定;国家网信办等七部门联合公布并于2023年8月15日起施行的生成式人工智能服务管理暂行办法还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

在数据来源方面,安全要求提出不应采集他人已明确不可采集的语料,包括个人已拒绝授权采集的个人信息(第5.1条c)2)项);为保证数据来源可追溯性,安全要求进一步提出,服务提供者将使用者输入信息当作语料时,应具有使用者授权记录(第5.1条c)4)项);从内部管理角度,安全要求要求对训练语料的知识产权侵权风险进行识别,不使用存在知识产权侵权问题的训练语料(第5.2条b)2)项)。

此外,前不久,国家互联网信息办公室起草了人工智能生成合成内容标识办法(征求意见稿),明确指出,人工智能生成合成内容标识包括显式标识和隐式标识,且不得恶意删除、篡改、隐匿标识。

所以,即便用 “雷军们的 AI 配音” 只是出于恶搞目的,也该恪守边界,不要以恶搞之名行侵权之实。

最后提醒相关产业和企业,应根据相关法律规范及技术规范,严格把控语料来源安全,重视对知识产权、个人信息的安全保护,建立和完善内部管理制度,以避免侵权事件的发生。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新