“现在屏幕上的都是经典的好莱坞美女，一眼看过去确实是真假难辨，各位观众也可以猜一猜，其中哪两张是 Deepfake 伪造的假图片。”

支持人话音刚落，屏幕上就出现 9 张玛丽莲梦露的照片。然后台下开始躁动起来。9 张照片中有 2 张是 AIGC 伪造的，仅凭人眼观察，实在难辨真假。

而台上参与挑战的两位选手，需要用他们的 AI 大模型“揪出”这两张假照片。

就在观众们一筹莫展时，两位选手的 AI 出奇一致地找出了两张被认为大概率是伪造的照片。而当作为主持人的科技博主毕导公布正确答案，AI 识别的准确性成功引起台下一片惊呼。

……

这是 9 月 6 日下午，外滩大会 AI 创新赛・全球 Deepfake 攻防挑战赛的表演赛第一轮的现场。全球 Deepfake 攻防挑战赛，是由蚂蚁集团主办、蚂蚁数科承办，是 CV 领域的顶级国际赛事。

而就在 9 月 6 日下午的 2024 Inclusion・外滩大会上，外滩大会 AI 创新赛・全球 Deepfake 攻防挑战赛举办了一场表演赛，吸引了无数目光。

回到这次大赛，赛事提供了百万级的数据集，需要参赛选手们针对“AI 换脸”的欺诈风险进行攻防实战演练。大赛官方设立了 100 万元人民币的奖金池，鼓励推动 AI 向善的技术人才。

本次大赛吸引了全球 2200 多名选手，1500 多支队伍报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、香港、越南等 26 个国家和地区。

由此可见，全球的技术人员们对于对抗“AI 换脸”欺诈风险的热情是非常高的。

目前，大赛的所有赛程已经结束。8 月 30 日，赛事组委会发起开源倡议：

支持并鼓励优秀参与者开源比赛模型，降低技术门槛、加强技术交流，进而帮助更多人检测伪造内容，助力 AI 向善。参赛者自主开源后，大赛组委会将在官方 Github 主页上汇总所有开源存储库。

倡议一经发出，就得到中国科学院自动化研究所 VisionRush 队伍和澳门大学 JT Group 的积极相应。

截至目前，已有近百名选手及所在队伍表示愿意参与代码接力，希望通过技术手段，为每一个可能受到伤害的人提供保护。

再看这次在外滩大会的表演赛，由大赛的 TOP3 选手参加，分别是来自上海的数据分析师唐永威、来自中科院自动化所师生联手的 7 人战队，以及一支来自香港和澳门的大学生组成的港澳团队。

在表演赛现场，由蚂蚁数科和中国科技大学网络空间安全学院联合设计了高逼真 Deepfake 图像，对选手们的 AI 模型进行终极考察。

同时，清华大学研究员兴军亮、新加坡科技研究局前沿人工智能研究中心 (CFAR) 首席科学家周天異、中国科学技术大学副教授周文柏等嘉宾将亲临表演赛现场与科技博主毕导一起，为观众科普了 Deepfake 攻防知识以及防骗技巧。

接下来让我们具体来了解。

01.

AI 换脸欺诈猖獗，防范刻不容缓

无论你是否关注科技圈，相信多少都听说过 Deepfake 的大名，这是一种深度学习伪造技术，即利用深度学习算法，实现音视频内容的模拟和伪造，可用于电影制作、视频编辑、虚拟现实等领域。

Deepfake 可以归类为 AIGC 生成的一种，本来是个好技术。但近年来，在境外已发生多起恶意利用 Deepfake 技术进行 AI 换脸欺诈，带来的经济财产损失、名誉受损等事件，并且该趋势正逐步向境内蔓延。

于是这项技术逐渐被贴上一些不好的标签。

此前本次大赛出题人、蚂蚁数科 ZOLOZ 技术总监姚伟斌在接受采访时曾透露：在今年，关于 Deepfake 欺诈的线上流量占比已经达到了 10%，而去年还只有 1%，至于明年，增长可能只会更快，甚至可能超过 20%。

蚂蚁数科 ZOLOZ 技术总监姚伟斌

比如最近备受关注的韩国女性被 AI 换脸造成恐慌的事件，就是 Deepfake 伪造的现实案例。还有今年 2 月香港一家跨过公司员工被邀请进 Deepfake 做的“高管视频会议”中，然后被骗走 2 亿港币的事件，也让人大为咋舌。

可见，面对全球范围的技术挑战，培养具有实战能力的 AI 人才刻不容缓。

这也是蚂蚁集团举办全球 Deepfake 攻防挑战赛的初衷，一方面为引起大家对 Deepfake 危害性的关注和重视，另一方面也希望借助本次大赛发掘 AI 人才，并以此推动整个行业在 AI 检测、识别伪造方面能力的提升。

02.

AI 到底是如何打败 AI 的？

说到这，可能爱思考的同学就要提问了：所谓的 AI 检测，它到底是如何检测的呢？

我们不妨就以这次赛事来说。

这次大赛，分为图片赛道和音视频赛道，这里首先要说，音视频伪造和图片伪造差异很大，音视频涉及到多帧图像加声音模态、语音模态的多模态模型，难度比图片伪造的识别大很多。这次现场表演赛的结果也能看到，音视频伪造识别的成功率要比图片伪造识别更低。

不过在识别原理上，两者倒是比较相似。

以图片识别为例，选手们是将已经明确是 AIGC 生成的图片作为训练数据，模型可以学习到 AIGC 生成图片的特征和模式。

通过分析图像的像素分布、纹理、颜色模式和不自然的细节（如边缘或结构畸变），模型能够识别与真实图像的差异，而有效区分真实与生成的内容。

简单来说，就是让大模型不停地学习 AI 生成图片的各种特征，熟悉“假图片”的特点，自然就能辨别真假了。

音视频的辨别也是类似，只是除了画面，算法还会关注到嘴巴说话的动作是否与音频同步，眼睛眨动的频率是否正常。还包括分析皮肤表面的细节，光影的分布等一系列因素。

既然是让 AI 学习，那么“教材”就很重要了，因此，学习样本的丰富度、完整性，对于 AI 最终识别伪造的准确性显然至关重要。此外，算法本身的能力也对模型识别的准确性有直接影响。

不过呢，就这次比赛来说，选手们训练自己模型用的数据集都是由赛事方提供的，包括公开数据和伪造数据。

其中，伪造图片数据涵盖了现实场景中超 50 种生成方式，伪造音视频中则纳入了超 100 种组合攻击方式，训练数据集总量超过 100 万，足够丰富。

因此，其实这次大赛更侧重考验选手们在算法方面的技术能力，以及综合应用的能力，有没有模型算法可以更泛化地适用于不同的场景和数据下。

那么，说了这么多，目前 AI 到底能不能 100% 识别 Deepfake 伪造呢？

对于这一点，大赛出题人姚伟斌明确表示：

让 AI 百分百识别伪造图像是否伪造，是十分困难的。

一方面，就像前面所说，训练样本其实很难做到真正的丰富、完整，而且伪造技术也在不断迭代更新，对抗也只能跟着伪造技术进行提升，这是目前的现状。

说到这，还有一个比较有意思的现象，就是有些我们人类觉得一眼假的画面，AI 却不能完全答对。比如表演赛现场有一组将科技博主毕导的脸替换到哈利波特身上的视频，我们大部分人一眼就能分辨，但是现场战队有一组 AI 模型却分辨错了。

但是在第一组图片测试环节，10 张明星照片里有两张伪造图片，大部分人都没看出来，AI 却能秒识别。

这个问题新加坡科技研究局前沿人工智能研究中心(CFAR)首席科学家周天異在现场给我们做了回答，其实是因为人类在判断图像是否伪造时，会更依赖直觉和逻辑。比如我们把一个普通人的脸换到哈利波特身上，人类一看就知道是假的，因为我们了解哈利波特的背景故事，但 AI 却不知道。

不过，人类的行为存在不稳定性，很多画面细节如果不认真看，就会出错。AI 却不会。正如周天異所说：

AI 是最称职的工具人，AI 不受情绪干扰，他会一丝不苟、勤勤恳恳地完成人类的指令，还不会疲劳。

关于技术，还有一个问题大家可能也比较关心，就是这次大赛展现出来的 AI 识别伪造的技术，未来如何进行应用落地呢？赛事方又该如何去推动技术的应用？

对此，作为出题人的姚伟斌也给出了回答。首先，这次训练的一些公开测试集都是开源的，这些攻击的数据开放出来后，对于各家公司去训练他们的检测能力会有直接的帮助。

其次，这次大赛的选手构成也非常丰富，有科班出身的名校学霸，又有自学 AI 的商科生，还有很多是个人竞赛爱好者，以及专注于 AI 安全的公司代表团。

比如来自企业界的选手就占了 20% 左右，他们未来应该会把大赛的相关技术应用在自己公司的产品和服务中。还有很大一部分是来自学术界，这一方面会推动相关学术的交流进步，另一方面，这些目前停留在学术层面的技术未来也有可能学生们毕业被带到企业中，逐渐推广应用。

03.

提高全行业的防御水平，我们在路上

在了解了用 AI 来对抗 Deepfake 欺诈的技术可行性、重要性以及当前存在的局限性后，想必大家也会有一个共识，那就是：

将 AI 识别的相关技术尽快推广、升级，并提升行业整体的对抗水平，其实已经迫在眉睫。

而这，需要整个行业共同参与进来。

作为行业的一员，蚂蚁也意识到了这一点，因此他们才会举办这场高度模拟实战的 Deepfake 攻防挑战赛，一是为了加强外部关注，培养和鼓励人才，二是将商业实战积累的攻防经验融入赛事设计与赛题数据集，与行业分享，提高整体防御水位。

而从结果来看，这次大赛显然很好地完成了它的使命。

平时专注于纯理论的工作，还是会有点纸上谈兵的感觉，参加比赛可以及时对一些新技术、新想法做做验证。

在这次表演赛上，来自中科院自动化研究所的王博在谈到参加这次比赛时，笑着说。他们的战队由师生 7 人组成，平均年龄只有 25 岁。

而在谈及参加这次比赛对自己的帮助时，来自澳门大学的选手陈逸鸣果断地表示：“比赛对我最大的帮助是让我能够在实战环境中锻炼自己的技术能力。我在很短的时间内突击学到了很多关于 Deepfake 生成和识别的新技术，这些知识将对我未来的研究和职业发展有很大帮助。”

除了挖掘出很多在 AI 对抗伪造方面极具潜力的人才，蚂蚁也很好地以这次大赛为媒介，与整个行业进行了一次深入的交流和分享，这对于提高行业整体的防御能力大有裨益。

首先，这次比赛吸引了全球 1500 支队伍，超 4500 次算法提交，是远超蚂蚁预期的，也可见大赛的影响力非常广泛。更重要的是，这次挑战赛像选手们提供了该领域数量最多的 Deepfake 数据集，超过 180 种生成方法也是行业最全的，还有多样化的人脸分布、16 大指标衡量带来的客观评价真实性。可以所蚂蚁是真正拿出了干货，这些珍贵的数据对于行业整体防御能力提升的意义也不是一届比赛能概括的。

其实，除了这次技术挑战赛，蚂蚁对于 Deepfake 深度伪造危害的防御以及生物检测安全方面早有多年攻防经验的沉淀。

要知道，过去 20 多年里，蚂蚁集团在国内金融业务场景上积累了十多亿用户，还有丰富的实战攻防经验，其多代风控平台的持续优化、严格的数据安全管理、先进的智能风控产品开发以及全面的智能安全体系构建，不仅提升了蚂蚁集团自身业务的安全性和效率，还为整个金融行业的风险管理提供了宝贵的经验和参考。

2017 年 10 月，蚂蚁数科推出了可信身份认证平台 ZOLOZ ，蚂蚁的生物识别技术成为独立品牌。如今 ZOLOZ 综合多种技术手段实现认证准确率已经达到 99.9%。

根据蚂蚁数科 CEO 赵闻飙的介绍，蚂蚁数科 ZOLOZ 自 2019 年开始研究 Deepfake 攻防技术，已服务数十个国家和地区的金融、电信、政务等机构。

我们愿意将商业实战积累的攻防经验融入赛事设计与赛题数据集，与同行结成战友关系，共同提升全行业的安全防御水位。

赵闻飙如是说。

04.

结语

最后，小编想到，这次比赛的名称叫做“全球 Deepfake 攻防挑战赛”，其中“攻”是“Deepfake 深度伪造欺诈”的恶意势力，“防”则是为对抗伪造内容孜孜不倦探索的科技工作者，甚至是整个千行百业。

但其实，每个参与挑战赛的人，一定都在期待未来“攻”与“防”转换的一天。

还是要借用本次大赛出题人姚伟斌接受采访时所说的：

所谓道高一尺，魔高一丈，今天我们还是被动的解题思路，等着攻击出来，然后我们去防范，短期内这是客观现状，但我们有没有可能主动去防范风险，能不能让这些内容去主动告知它就是 AI 产生的，一旦这个事情做成了，很多时候我们就很容易识别了。

而当前，蚂蚁在努力，身处在行业的每一位科技工作者们也都在努力，相信这样的一天会更快到来。