警惕！AI换脸换声 10分钟骗走430万

【CC博客】5月23日消息，和你视频聊天借钱的，可能不是真的亲戚朋友，而是用朋友“脸”的骗子。

近日，平安包头官方微信号公布一项新型诈骗案件：

5月8日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。

4月20日11时40分左右，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他，两人经过短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。好友向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，还把银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥。但让他没想到的是，好友回过来的消息竟然是一个问号。

郭先生拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。

“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。

4月20日12时21分，包头市电信网络犯罪侦查局接到福建省福州市公安局刑侦支队的外协请求，称福建省一知名民营企业负责人被骗走430万元，而涉案的银行卡为包头市蒙商银行对公账户，希望包头警方能够帮忙进行紧急止付。

包头市公安局电信网络犯罪侦查局立即启动“包头市警银联动绿色查询机制”，当班民警以最快速度完成核查、报审程序，第一时间将涉案卡的信息通报至蒙商银行相关部门。在银行的全力协助下，仅用时10分钟，就将该诈骗账户内的336.84万元被骗资金成功拦截。同时，向福州市公安局警方提供了剩余款项93.16万元资金流出信息，为深入突破该案剩余资金查找提供了突破方向。目前，福建警方与包头警方对此资金正在全力追缴当中。

*警方提示*：针对花样翻新的智能AI诈骗，公众要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；网络转账前要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助。如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。

事实上AI换脸换声技术早已不是“新闻”，随着AI技术的快速迭代进化，“换脸换声”的精准、仿真程度越来越高，甚至足以以假乱真！此前，就有用户采用AI 绘画工具 Midjourney绘制的“中国情侣”图片在社交媒体上被广泛转发，其逼真的视觉效果令不少网友感叹：“已经不逊于人类画师了。”

国内安全厂商发出提醒，当前已经出现攻击者利用AI大模型快速构建攻击工具。在发展人工智能的同时，打好安全基础尤其重要。

4月11日，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》（下称《办法》），并向社会公开征求意见。其中，在与技术滥用问题相关的虚假信息管理和他人权益问题上，《办法》规定“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。”