“AI换脸”骗局频发公众应提高防范意识

2023-06-01 16:49:15来源：中国消费网

(资料图片)

中国消费者报报道（记者王小月）从ChatGPT火爆全网，到“AI换脸”新骗局全国频发，生成式人工智能再次受到了市场广泛关注。近日，微博上“AI诈骗正在全国爆发”冲上微博热搜。据“平安包头”微信公众号消息，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

“张嘴、摇头，摄像头捕捉到人的动作后，屏幕上原本静态的人像可以动起来，动作幅度和真人一致，还能眨眼和露齿微笑，仿真度颇高，几分钟内就能生成一段视频，脸还能被任意替换。”这就是“AI换脸”技术，成为不少黑产分子新型诈骗的工具。

记者了解到，不法分子利用“AI换声”“AI换脸”技术，伪装成特定人物，实时与他人进行视频通话。更换后的面部表情自然，以假乱真，能够冒充他人身份联系被害人，博取被害人信任后实施诈骗。

据了解，“AI换脸”背后采用的是深度合成技术，利用深度学习、虚拟现实等生成合成类算法，制作图像、音频、视频等信息，目前在社交、影视、广告、医疗等诸多领域不断深化应用，有较大的技术价值和商用潜力，不过也存在着一定的安全隐患，“双刃剑”效应明显。

对此，全联并购公会信用管理委员会专家安光勇对《中国消费者报》记者表示，目前AI换脸技术主要通过深度学习和计算机视觉技术实现。它使用了深度神经网络来分析和识别视频中的人脸，并将一个人的脸部特征映射到另一个人的脸上。在微信视频中，犯罪分子可能会通过发送特制的视频或使用特定的换脸应用程序，将自己的脸替换为受害者的脸，以获取对方的信任并实施诈骗行为。

那么，“AI换脸”成熟度如何，是否达到以假乱真的程度？

安光勇表示，换脸技术的成熟度随着时间的推移在不断提高，但是否已经完全以假乱真还存在一定的限制。尽管现代换脸技术在某些情况下可以产生逼真的结果，但仍然存在一些瑕疵，比如细节不完美或者在某些情况下可能显得不自然。

长沙市反电诈中心提醒，涉及资金转账时，市民要提高安全意识，通过多种方式确认对方是否为本人，也可将转账到账时间设定为 “24小时到账”，以预留处理时间。针对支付软件以及网银软件，要使用多种登录及转账验证方式。

针对花样翻新的智能AI诈骗，公众要提高防范意识，应谨慎使用各类“AI换脸”“AI变声”软件，加强个人信息保护意识，避免注册不需要的账号、填写不必要的个人信息，以防个人信息泄露。面对不断更新的网络技术和诈骗方式，要坚持不轻信、不透露、不点击、不转账。