自古以来人们都喜欢说“眼见为实，耳听为虚”，但是在AI时代真真假假假假真真，或许眼见、耳听皆为虚妄。

前段时间，在抖音等短视频平台上，各种猫狗会说话、人在空中飞、动物突然变身为人开始跳舞等视频非常火爆，吸引了很多网友的关注。甚至一些不明所以的网友，还以为这就是真的开始思考到底是怎么做到的。但是深层次去探究，其实这类视频都是AI所创造出来的，凭借着新鲜感和猎奇心理等吸引着一大批受众。

在去年国庆假期期间，短视频平台上出现了大量以小米公司董事长雷军名义发表的犀利言论视频，流量颇高，其领域更是覆盖了堵车、假期、调休、游戏等热门话题，让不少网友一时分不清到底是不是雷军本人说的。在今年两会期间，雷军针对当前人工智能深度合成技术中“AI换脸拟声”的滥用现象，表示AI换脸拟声不当滥用成为了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建“以人为本、智能向善”的人工智能发展生态。

尤其是在近两年时间里，大语言模型、文生图大模型等蓬勃发展，AI所生成的内容已经充斥了我们生活的方方面面，其利弊也很难被精细化衡量。哪怕是现在的学生和老师，也都在借助AI来完成教学，便利性不言而喻。而隐忧就是大学生的论文AI味道可能会越来越浓，以前在拼命降低查重率，而未来可能就要拼命去降低AI率了。而在视频方面，AI制作视频一定程度上降低了视频制作的门槛，但引来的问题就是滥用，随着AI的进步已经有了可以以假乱真的能力。

面对此现状，国家层面也开始出手了。3月19日，央视新闻报道，人工智能生成合成内容标识办法来了，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布《人工智能生成合成内容标识办法》，将于今年9月1日起正式施行。据介绍，《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，为促进人工智能技术创新发展，对具体实施操作不做要求。

AI生成内容要亮明身份。“标识办法”提出强制添加显式和隐式标识等规范要求，所有AI生成的文字、图片、视频等内容，都要“亮明身份”。专家介绍，借助AI生成的文字内容涉及模仿某人的话语表达、模仿媒体进行新闻发布，或者模仿政府部门发布相关公告等，都必须进行显式标识。我们也期待后续政策出台后AI行业的乱象得到整治。

而在此之前，其实手机厂商们也都在积极努力发展AI的同时去帮助用户去辨别真伪。以荣耀为例，在MagicOS 9.0上推出了AI换脸检测功能，通过端侧AI能力，该技术可自主识别用户视频通话中的画面要素，如果检测到视频内容存在AI换脸，将向用户发出风险提醒。其一是能够实现视频通话时的AI风险，保障视频通话安全，其二是在直播和短视频场景，YOYO也能够直接进行检测是否存在AI换脸情况，可以很好地帮助用户识别风险。在去年的互联网大会上，荣耀终端AI换脸检测系统，入选网安协会精评的“人工智能创新应用典型案例（2024）”，受到了行业的广泛认可。

在OPPO ColorOS 15的最新升级当中，加入了合成语音识别功能，该功能能够在用户日常手机通话、办公会议的App当中自动检测对方是否使用了AI合成的语音。如果检测到对方声音疑似合成，手机通话界面就会提示“疑似合成语音”，向用户实时提示风险预警。目前合成语音识别功能支持中文普通话、粤语、四川话主要方言的识别。所以在日后通话过程中，如果不确定对方是不是AI合成的声音，那么ColorOS就可以帮助到的大家进行识别，能够更好地保护财产和隐私安全。

华为手机这边为了防诈骗则是推出智能诈骗拦截，自动识别拦截诈骗电话和短信，帮助用户率先过滤掉诈骗信息；针对仿冒App的诈骗，华为打造纯净应用市场，严格审查每款应用软件，从源头上杜绝假冒伪劣；针对应用过度索取权限问题，华为推出安全访问机制，无需授权所有，应用仅可访问用户选定的数据，无法访问其他内容，帮助用户筑牢信心安全关。

在小米HyperOS 2中，同样加入了AI反诈功能，能够智能识别欺诈电话或换脸视频。通话过程中会弹出“风险提醒，本次通话可能存在欺诈风险，为避免资金损失，请谨慎判断是否挂断”，同样可以提高用户的心理防备。