3月4日,在十四届全国人大三次会议开幕前,全国人大代表、小米集团创始人、董事长兼CEO雷军,围绕新能源汽车、人工智能产业的高质量发展,向大会提交了五份建议,其中一份建议为《关于加强“AI换脸拟声”违法侵权重灾区治理的建议》。
雷军建议,一是针对“AI换脸拟声”等某一代表性问题,探索推出人工智能单行法,提高立法位阶及其效力,分级分类的基础上进行务实治理,明确“AI换脸拟声”应用边界红线,完善侵权证据规则,加大对利用人工智能技术实施犯罪行为的刑事处罚力度。
二是强化行业自律共治,压实平台等各方的责任。支持平台企业开发可精准识别人工智能深度合成内容的技术能力,优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制,确保及时阻断问题内容传播。
三是建议加强人工智能方面的法制宣传教育,增强民众的警惕性和鉴别力,聚焦重点人群,在中小学人工智能教材中加入伦理规范内容,深入老年人聚居的社区开展相关知识普及活动,在全社会夯实“以人为本、智能向善”的人工智能发展生态。
去年10月,网友向雷军反应“被整整骂了7天”社交媒体
注意到,雷军本人就是“AI换脸拟声”的受害者之一。在去年国庆节期间,网络上大量出现“雷军AI配音”的相关恶搞视频。在各类视频中,具有雷军的声音特征的语音内容“锐评”假期堵车、游戏等话题。更有部分视频包含“恶意谩骂”内容,不少网友调侃称“被雷军整整骂了7天”。
相关视频内容传播量巨大,“雷军AI配音”相关话题的视频内容播放量已经超过1.2亿。这些配音大多并非雷军本人“发声”,而是短视频平台用户使用AI工具模拟了雷军声音的音色,并根据设置文案内容生成了具有雷军音色的音频素材。
去年10月底,雷军发布视频回应“AI雷军语音包”
去年10月29日,雷军发布视频回应:“最近两年AI特别火,技术进步特别得快,前段时间我在刷抖音的时候,经常看到很多人在玩‘雷军AI’,就是雷军语音包。有网友跟我投诉,说国庆期间被我连续“骂”了7天。(这)的确让我自己也挺困扰也挺不舒服的。我在这里希望大家都不要玩了,这个事情不太好。”