AI的首个应用场景居然是电信诈骗？5月22日，一起利用人工智能（AI）实施电信诈骗的典型案例冲上热搜，引发全网关注。

近日，“平安包头”公众号发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。事后，郭先生拨打好友电话才知道被骗，骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

5月22日，浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林认为，AI技术是中性工具，掌握在正义一方手里则是正面影响，在坏人手里是有不利影响。应对AI技术犯罪的最好办法，是让AI识别技术更加可靠，让AI能够识别出真假。如果AI技术不能识别，那么应该暂缓这项AI识别技术的大规模推广。

财联社记者注意到，由于电信诈骗涉及的转账案例各家银行均需监控，这则利用AI实施电信诈骗的案例今日也被一些银行高管转发关注，从侧面显示此类新型犯罪给行业带来的冲击和影响。

两地警方止付拦截336.84万元，但仍有93.16万元被转移

“平安包头”的警情通报显示，4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。事后，郭先生拨打好友电话才知道被骗，原来骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

值得注意的是，骗子并没有使用一个仿真的好友微信添加郭先生为好友，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移。

官方数据显示，电信诈骗案件侦办处于高压态势，2022年共破获电信网络诈骗案件46.4万起。

然而，道高一尺魔高一丈。有市场观点认为，作为最新兴起的技术，AI人工智能一方面为社会带来了长足的进步，但是，AI技术，特别是AI换脸以及拟声技术的普及和操作低门槛，也会给不法分子利用。伴随着AI技术的发展，未来AI换脸的技术可能会更加强大，更加难以分别，普通民众被AI诈骗的概率增加。

对此，“平安包头”在微信中提示，针对花样翻新的智能AI诈骗，公众要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等;网络转账前要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助。如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇可疑情形，请注意保护证据立即拨打96110报警。

这家大行曾遭遇“人脸识别”诈骗案，银行须警惕金融科技带来的挑战

最高人民法院刑三庭副庭长李睿懿此前曾经表示，电信网络诈骗犯罪发案在一些大中城市刑事案件中的占比甚至达到50%；仅2020年全国电信网络诈骗案件涉及财产损失即达353.7亿元。

官方信息显示，电信诈骗核心载体除了通讯工具之外，就是银行账号，诈骗成功之后实施大部分通过金融机构，尤其是银行渠道进行转账和汇款。

公安部信息显示，对于电信诈骗犯罪，去年全国公安机关持续组织集群战役，深入开展集中攻坚行动，抓金主、铲窝点、打平台、断资金，开展全链条打击，先后开展了“云剑”“断卡”“断流”等专项行动。

随着金融科技的发展和高科技金融犯罪的升级，金融机构也将面对日益复杂的业务风险和声誉风险。北京道誉企业管理服务有限公司执行董事李利明即认为，之前也出现过人脸识别引发的诈骗案例，受害者曾将银行告上法庭。

李利明所指是一则去年暴露的案件：2021年6月19日，哈尔滨市公安局破获一起诈骗分子利用“人脸识别”方式，在一个小时内，将被害人借记卡盗刷一空的案件。受害人通过视频会议软件向诈骗分子提供了自己手机的信息，同时人脸信息暴露，被对方截取用于转账取款，成为对方成功实施诈骗的关键一环。

为此，受害人以“借记卡纠纷”为案由起诉涉事的交通银行，要求银行赔偿存款损失。最终北京市丰台区人民法院认为，受害人在42.9万元被盗过程中“过错明显”，最终一审驳回了她的诉求。

李利明认为，这类诈骗会引发责任纠纷，涉事银行会有声誉风险，最好及时做出解释，消除客户和公众对银行科技系统不安全的顾虑。