2024年10月，短视频平台出现大量小米CEO“雷军”配音视频，这些视频内容锐评了堵车、假期、调休、游戏等一切热门话题，不仅言辞犀利，甚至还穿插了一些不文明用语，引发网络关注。

实际上，这些视频中的声音并非出自雷军本人，而是AI配音。

在网络平台上，网友还能看到“张文宏医生”推销蛋白棒，因口型和声音与本人相符，部分老人信以为真而下单。

对此，张文宏不得不向平台方投诉，其表示自己也曾考虑过报警，但对方一天换一个账号，而且全是虚拟的，就像幽灵一般难以描述，只能寄希望于相关部门加强监管。

从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货，甚至还有不法分子利用AI深度合成视频，进行诈骗。

过去一年，AI深度合成音视频侵权现象愈演愈烈，多位配音演员称声音被AI“偷走”，甚至有人通过“偷”声音，仿冒他人亲属声音进行诈骗。

日前，央视新闻揭露AI合成名人音视频乱象。

据报道，去年3月，刘德华电影公司发布声明，称有网友利用AI制作的刘德华声音，为自己博取流量。这些虚假账号会通过盗版网站散布关于演唱会相关不实信息，收取门票订金等。

央视新闻调查发现，实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。

专家指出，当前有很多开源的这些软件和工具都可以实现这种换声换脸的效果，可以供网民自由下载，在自己的电脑上进行安装和使用。

但不论换声还是换脸软件，不同的场景需要调整相应的参数，步骤较多，属于半专业软件，有一定的技术门槛，所以不被网民熟知。

然而，目前在短视频平台已有众多主播在教网民使用相关软件。

两年前，因技术尚不成熟，AI生成的语音“一眼假”，但随着算法的不断迭代升级，在高性能设备和高精度模型的双重助力下，如今已升级到“真假难辨”，不少人因此上当受骗。

需要注意的是，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单AI深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。

另外，不仅是名人，普通人甚至动画形象，如果未经本人或版权方同意，就用AI合成制作其音视频，也可以判断为侵权行为，应当承担法律责任。

编辑：cc