3月4日,小米公司董事长雷军针对当前人工智能深度合成技术中“AI换脸拟声”的滥用现象,提出了加强相关违法侵权治理的建议。
雷军指出,尽管“AI换脸拟声”技术在影视、广告、社交等领域得到了广泛应用,成为传播力强、易受欢迎的技术创新,但其不当使用已成为违法侵权行为的重灾区,对构建健康的人工智能发展生态构成了挑战。
在2024年国庆假期期间,网络上出现了大量以雷军名义发表的犀利言论视频。这些视频的声音并非雷军本人,而是由AI配音生成,涵盖了堵车、假期、调休、游戏等热门话题,言辞尖锐,甚至包含粗话脏话。这些视频的广泛传播,不仅误导了公众,也对雷军的个人形象造成了不良影响。
对此,曾有博主表示,原本以为大家用“雷军AI”进行创作是为了娱乐和搞笑,但近期却出现了大量利用AI配音进行恶意攻击和辱骂的视频,这种行为显然已经超出了娱乐的范畴。有网友曾在雷军的微博评论区留言询问其为何“骂人”,雷军则以愤怒的表情回应,显示出雷军本人对这一现象的强烈不满。
目前,CNMO注意到,雷军的建议得到了广泛关注,许多网友表示支持,认为应该加强对“AI换脸拟声”技术的监管,防止其被滥用于违法侵权行为。同时,也有网友戏称雷军为“受害者真情流露”。