“AI换脸”骗局频发 公众应提高防范意识|全球速讯

2023-06-01 18:49:20 来源:中国消费网

打印 放大 缩小


(相关资料图)

中国消费者报报道(记者王小月)从ChatGPT火爆全网,到“AI换脸”新骗局全国频发,生成式人工智能再次受到了市场广泛关注。近日,微博上“AI诈骗正在全国爆发”冲上微博热搜。据“平安包头”微信公众号消息,内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

4月20日中午,郭先生的好友突然通过微信视频联系他,自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。基于对好友的信任,加上已经视频聊天核实了身份,郭先生没有核实钱款是否到账,就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话,才知道被骗。骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。

“张嘴、摇头,摄像头捕捉到人的动作后,屏幕上原本静态的人像可以动起来,动作幅度和真人一致,还能眨眼和露齿微笑,仿真度颇高,几分钟内就能生成一段视频,脸还能被任意替换。”这就是“AI换脸”技术,成为不少黑产分子新型诈骗的工具。

记者了解到,不法分子利用“AI换声”“AI换脸”技术,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施诈骗。

据了解,“AI换脸”背后采用的是深度合成技术,利用深度学习、虚拟现实等生成合成类算法,制作图像、音频、视频等信息,目前在社交、影视、广告、医疗等诸多领域不断深化应用,有较大的技术价值和商用潜力,不过也存在着一定的安全隐患,“双刃剑”效应明显。

对此,全联并购公会信用管理委员会专家安光勇对《中国消费者报》记者表示,目前AI换脸技术主要通过深度学习和计算机视觉技术实现。它使用了深度神经网络来分析和识别视频中的人脸,并将一个人的脸部特征映射到另一个人的脸上。在微信视频中,犯罪分子可能会通过发送特制的视频或使用特定的换脸应用程序,将自己的脸替换为受害者的脸,以获取对方的信任并实施诈骗行为。

那么,“AI换脸”成熟度如何,是否达到以假乱真的程度?

安光勇表示,换脸技术的成熟度随着时间的推移在不断提高,但是否已经完全以假乱真还存在一定的限制。尽管现代换脸技术在某些情况下可以产生逼真的结果,但仍然存在一些瑕疵,比如细节不完美或者在某些情况下可能显得不自然。

长沙市反电诈中心提醒,涉及资金转账时,市民要提高安全意识,通过多种方式确认对方是否为本人,也可将转账到账时间设定为 “24小时到账”,以预留处理时间。针对支付软件以及网银软件,要使用多种登录及转账验证方式。

针对花样翻新的智能AI诈骗,公众要提高防范意识,应谨慎使用各类“AI换脸”“AI变声”软件,加强个人信息保护意识,避免注册不需要的账号、填写不必要的个人信息,以防个人信息泄露。面对不断更新的网络技术和诈骗方式,要坚持不轻信、不透露、不点击、不转账。

关键词:

责任编辑:ERM523

相关阅读