当前位置: 首页 » 资讯 » 人工智能 » 正文

AI配音恶搞惹怒雷军!AI声音克隆公司创始人:乐见用户“整活”,将下架违规音频

IP属地 北京 编辑:顾雨柔 九派新闻 时间:2024-10-11 23:09:24

近日,“雷军AI配音”的相关视频,在短视频平台上广泛传播。在网传视频中,具有小米公司创始人、CEO雷军的声音特征的语音内容“锐评”假期堵车、游戏等话题。由于部分视频包含“谩骂”内容,不少网友调侃称“被雷军整整骂了7天”。

雷军微博回应网友相关提问。图源 | 微博截图

相关视频内容传播量巨大,“雷军AI配音”相关话题的视频内容播放量已经超过1.2亿。这些配音大多并非雷军本人“发声”,而是短视频平台用户使用AI工具模拟了雷军声音的音色,并根据设置文案内容生成了具有雷军音色的音频素材。

根据一些用户发布的“雷军AI配音生成教程”,记者发现不少视频内容的生成工具都来源于一家名为“Reecho睿声”的大模型网站。该网站所属公司深圳市言域科技有限公司(简称“言域科技”)是一家成立仅10个月的初创公司。

在上述网站,记者也发现了其他用户事先采集样本制作的雷军声音角色。其他用户只需要设置需要生成的文字内容,便可以直接生成具有雷军音色的音频。其中最热门的一款雷军声音,已经被46.7万用户使用,累计生成了2594.7万个字符文案的语音内容。

Reecho睿声网站上用户采集制作的雷军声音(部分已下架)。图源 |网站截图

言域科技创始人谢伟铎在个人朋友圈也承认,最近火爆全网的各路雷军AI语音基本是用他们的产品制作,最近网站DAU(日活跃用户)已经达到了几十万量级。据公开信息显示,这位创始人是一位00后,就读于巴黎大学计算机系,目前处于休学阶段。

九派财经记者联系到了谢伟铎,与他对相关热点事件的看法和技术所衍生的法律边界和技术伦理等问题进行了对谈。

谢伟铎在奇绩创坛路演日介绍团队开发的项目。图源 | 奇绩创坛

以下是采访实录(有删改):

九派财经: 对“雷军AI语音”恶搞事件你怎么看?

谢伟铎:最开始出现“雷军AI语音”大家也是觉得出于好玩,起初用户使用我们的工具生成的内容都是比较正常的,但慢慢地出现了一些不文明的内容。对这样的现象,我们感到非常痛心和遗憾,我们并不希望这样的事件发生,让AI工具生成不文明的内容有悖于我们的初衷。

九派财经:对于这起事件,小米公司法务部和你们接触了吗?双方是怎么沟通的?

谢伟铎:小米公司有工作人员联系到了我们,他们态度还是比较温和,希望我们配合把相关内容进行下架,遏制不文明内容的进一步传播。我们目前的做法是先通知用户自行下架相关内容,2~3个工作日用户未进行处理,我们会在后台采取直接下架措施。

九派财经:对于网站所呈现的声音角色可能明显涉嫌对公众人物的侵权,您是怎么看待的?

谢伟铎:目前我们会在接收到权利人的投诉后,根据UGC社区的惯例,通知相关用户对上传的声音角色进行下架。

对于用户上传了别人的声音从而采集生成了第三人的声音角色,我们整体还是保持一个比较开放的态度,我们认为我们的平台只是一个工具,我们不会过于去控制用户使用工具去做什么。最终如果生成内容在互联网社交平台传播,如果存在违法或侵权内容被传播,应该更多的是传播平台的责任。

对于用户生成一些公众人物或者影视角色的音频,只要不往涉及色情、恐怖暴力的方向发展,用户可以去生成相关音频,如果面临侵权我们通常会按照惯例事后通知下架。

九派财经:为什么会开发这样的一个AI仿真音频工具?应用场景和市场前景是什么?

谢伟铎:最早我经常看到“小美”“小帅”的短视频配音很机械,我就想看着能不能生成更加自然、拟人的视频内容配音。基于这样的兴趣,我们团队的10个人在互联网上相识,大家开始一起开发了中文领域首个虚拟主播IP木几萌。最后我们发现我们的技术如果只用于这款虚拟主播有点过于“浪费”,所以就和团队成员一起开发了目前的这款Reecho睿声拟真语音大模型应用。后来在天使投资人机构奇绩创坛的投资下,今年8月我们在深圳有了办公场地,团队成员才聚集在线下开始工作。

由于最开始我们的应用是偏向于娱乐化的,在产品推广的过程中期待用户把产品生成的音频分享在视频平台上。同时,我们也期待可以帮助一些内容创作完成有关声音内容的创作,比如替代人声口播去高效、便捷地完成对视频的声音内容生成。我们的产品还可以应用在公益领域,我们曾帮助网友制作逝去亲人的仿真声音。

商业化的应用场景上,我们期待后续和一些声优和配音员合作,为他们制作声音角色样本,为用户提供高质量且便捷的可商用配音素材。目前我们的网站大部分功能还是免费的,我们正在开发一些商业化的项目,今年年内就会有比较大的进展。

九派财经:您怎么看待AI声音克隆应用的使用边界?

谢伟铎:对于用户如何去使用工具我们持开放的态度,目前,我们也已经采取了对异常行为监测和生成声音追溯等监管功能。对于我们网站生成的音频,尽管用户进行了二次剪辑加工,我们依旧可以追溯到生成音频的账号。这项功能我们后续会开放申请鉴定渠道,协助相关机构追溯我们网站流出的违法音频的生成源头。

此外,我认为在此次“雷军AI语音”事件中我们公司的产品火了,让更多人认识到了目前AI仿真声音技术的进步。这样的认知提升,可以降低公众因为拟人仿真语音被骗的风险。

九派财经记者 舒家奎

编辑 万佩

版权归原作者所有,向原创致敬

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新