“AI换脸诈骗”来袭,怎么破?

对抗AI诈骗,银行和个人都是反诈主体,都需要有清醒的认知和稳健的防护能力。

 |  中国电子银行网

文|中国电子银行网 王超

近期,以ChatGPT为代表的AIGC(生成式人工智能)应用引发的热度还远未消退,而“AI换脸”诈骗事件又将人工智能推向舆论漩涡。

日前,包头市公安局电信网络犯罪侦查局发布一则利用AI实施诈骗的公告。该公告显示,不法分子利用AI技术,通过声音合成,伪造成特定人物的声音,并通过AI换脸伪装成特定人物,实时与他人进行视频通话。据称,更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施诈骗。该诈骗案涉案金额达430万人民币,用时仅10分钟。

面对这类利用人工智能技术实施的新型诈骗,我们单靠技术“劝降”是远远不够的。个人和金融机构的应对之策就成为当下热议的话题。

5月23日,中国银行原行长李礼辉于在公开场合强调,“我们迫切需要重构人工智能信任,在技术上、制度上有效对抗AI虚假,建立防范AI操纵的防火墙,维护数字经济时代的国家安全与金融业安全。”

对抗AI诈骗,银行和个人都是反诈主体,都需要有清醒的认知和稳健的防护能力。

国内银行在风控系统建设、公众教育、信息保护技术等方面的经验都已十分成熟,但在新技术诈骗手段不断翻新的今天,银行需要继续加强这些能力建设。

首先,银行应继续加强智能风控系统建设,用技术对抗技术,靠“魔法”来打败“魔法”。利用AI技术对客户信息进行分析,及时发现异常行为,并进行风险提示,防止诈骗案件的发生。

其次,银行继续加强对民众的反诈教育,加强对客户信息的保护,防止客户信息泄露。

再次,继续加强对柜面工作人员的培训,提高他们的防诈骗意识,继续要求工作人员对客户进行温馨提示,提醒客户保护自己的资金安全。

“AI换脸”诈骗的核心在于对个人信息的掌握,那么做好个人信息保护是我们防骗的首要手段。个人平时应加强安全防诈意识,可以从加强个人信息保护、多重验证、互相提醒等方面入手。

保护个人信息:要加强个人信息保护意识,不随意将个人信息泄露给陌生人,尤其是各种在网络上套取个人信息的换脸测试,免费算命和性格测试等,防止诈骗分子利用AI技术掌握大量个人信息并对人物性格、需求倾向等进行画像,从而精准地实施诈骗。

加强安全意识,拒绝诱惑:保持警惕,不轻信陌生人的电话、短信、邮件等,尤其是涉及到资金、个人信息等重要信息的内容。不要轻信高额收益的投资理财项目,要选择正规的投资渠道,避免被骗。

多重验证:在涉及钱款时,要通过电话、视频等多种方式交叉确认对方是否为本人。在不能确定真实身份时,可以将到账时间设定为“2小时到账”或“24小时到账”,以预留处理时间。此外,涉及大额转账、汇款等尽量使用银行电子渠道。在此过程中,通过填写对方账号、姓名、手机号等加强身份信息核验,通过适当延长操作流程,争取更多冷静思考时间,防止部分冒用熟人身份进行诈骗的行为。

相互提示,共同预防:家庭成员之间要相互提示,提醒老年人不要轻信陌生人的电话、短信、邮件等。

另外,平安包头还通过其公众号发出提醒,微信等即时通讯工具上收到自称是单位领导、老师或者是同学发来的好友邀请时,一定要提高警惕,不要贸然添加对方微信。该提醒还强调,AI虽然可以模拟人脸,但在细节上仍有失真,可以通过观察口型与声音是否同步,表情变化是否自然等进行识别,还可以通过提问或者对暗号的方式进行确认。