日照警方破获利用AI语音实施电诈的犯罪团伙。 警方供图(资料片)
5月22日,“AI诈骗正在全国爆发”的话题冲上热搜第一,引发网友热议。AI新骗局是如何实施的?我们该如何防范?
眼见不一定为实
微信转账给“好友”
结果被骗走430万
据平安包头官方微信号5月20日消息,5月8日,包头市公安局电信网络犯罪侦查局,发布一起使用智能AI技术进行电信诈骗的案件。
4月20日,福州市某科技公司法人代表郭先生的“好友”,突然通过微信视频联系他,说自己的朋友在外地投标,需要430万元保证金,且需要公对公账户过账,想借用郭先生公司的账户走一下账。
“好友”向郭先生要了银行卡号,声称已把钱打到郭先生的账户上,还把银行转账底单的截图,通过微信发给了郭先生。
基于视频聊天的信任,郭先生未核实钱是否到账,便先后分两笔把430万元给对方打了过去。钱款转账后,郭先生又给好友微信发了一条消息,称事情已办妥。没想到,好友竟然一头雾水。
郭先生又拨打了好友电话,对方说没有这回事,他这才意识到竟然遇上了“高端”骗局,对方通过智能AI换脸技术,佯装成“好友”对他实施了诈骗。
福建警方和包头警方迅速行动,成功将该诈骗账户内的336.84万元资金拦截,并对剩余资金全力追缴。
这起案件曝光后,引发网友普遍担心,因为在AI换脸技术的辅助下,诈骗术的欺骗性实在太强,让人防不胜防。
比如,转账前,郭先生为了确认安全,还专门通过视频聊天核实了好友身份。这意味着,骗子首先“攻陷”了郭先生好友的微信,然后用AI合成了其好友的脸和声音,骗取了郭先生的信任。
以往碰到要转账的情况,很多人都会像郭先生一样,先打电话或视频确认一下,没想到在AI换脸技术下,眼见都不一定为实了。这就大大增强了迷惑性,客观上确实给行骗提供了一定方便。
耳听不一定为真
利用AI语音技术
“引流吸粉”诈骗
实际上,利用AI技术实施诈骗的案例并不少见。2021年3月,山东日照警方在侦破一起电信网络诈骗案件中发现,诈骗团伙借助AI语音技术完成电诈引流。
2020年12月31日,日照一女子在网上炒股时陷入骗局。据悉,该女子在抖音上看到有人推荐股票,就加了对方好友,之后她被推荐进入一个炒股群,下载了一个炒股App,并投入大额资金,一段时间后,该女子发现,资金根本无法提现,而且此前推荐股票的“好友”和炒股群也把她拉黑了。
警方调查发现,该案系一起典型的投资理财诈骗。犯罪团伙境内外勾结,境内精准获取被害人信息,然后洗脑并引流到境外窝点,最终实施诈骗。
由于本案受害人遍布全国各地,数量庞大,每笔损失少则几十万多则数百万,日照警方经过两个多月缜密侦查,最终锁定三个具有重大犯罪嫌疑的窝点,并在广州警方大力配合下,成功打掉三个窝点,当场抓获犯罪嫌疑人76名,缴获作案手机600余部、电脑100余台、作案电话卡、银行卡一宗。
据了解,2020年7月以来,以卢某、曾某为首的犯罪团伙先后招募70余人,租用写字楼搭建了3个犯罪窝点,对外悬挂互联网科技公司的牌子,谎称从事化妆品销售,但实际从事的是“引流吸粉”诈骗犯罪。
该犯罪集团内部组织架构严密、分工明确,设立了总监、财务主管、组长、话务员等层级,由境外荐股诈骗集团给最底层话务员“供料”,按照境外提供的人员信息,话务员通过AI语音智能电话录音与受害人通话。通过智能分析聊天留言,诈骗团伙会把受害人分为高、中、低三个易骗档次。
在精准获取受害人个人信息后,诈骗团伙会冒充证券公司客服人员,加受害人微信好友,获得信任后,再推送到境外犯罪集团控制的投资理财诈骗群,最终骗取大额钱财,完成整个犯罪链条里面的“引流吸粉”环节。
AI骗局防不胜防
骗子“精准围猎”
成功率接近100%
通过警方公布的诈骗案例分析,随着我国对电信网络诈骗的从严打击,诈骗分子如今仍绞尽脑汁更新诈骗手段。
记者发现,几年前,电信网络诈骗的类型基本为刷单、虚假投资理财、冒充公检法、“杀猪盘”以及冒充客服,诈骗特点趋于单一化。不过,面对警方从严打击,电信网络诈骗特点,从单一型变为复合型,例如,在“杀猪盘”诈骗类型中,夹杂了虚假投资理财诈骗等。
不仅如此,在进行“吸粉引流”等操作时,骗子还增加了迷惑性,以达到快速、隐蔽完成骗局的效果。比如,借助正规招聘平台发布“高薪且轻松”的招聘信息,利用婚恋网站或熟人介绍等方式,吸引目标人群入坑。
最近,为骗取钱财,不法分子骗术再一次更新换代,应用AI技术,使骗局更具迷惑性、隐蔽性。
据湖北网警巡查执法5月6日消息,AI技术新骗局来袭后,诈骗成功率竟接近100%。
第一种是声音合成,骗子通过骚扰电话录音等方式,提取某人声音,获取素材后进行声音合成,从而用伪造的声音实施诈骗。
例如,某公司财务接到领导电话,要求立刻给供应商转款2万元,并将转账信息以邮件形式发送,转款理由是避免缴纳滞纳金。由于老板的口音十分逼真,该财务信以为真,在1小时内转款完成,后来发现被骗。
如今,因为靠脸更易取得对方信任,骗子便使用AI技术换脸,可以伪装成任何人,再通过视频方式进行信息确认。骗子首先会分析公众发布在网上的各类信息,根据所要实施的骗术,通过AI技术筛选目标人群。在视频通话中,再利用AI换脸,骗取“目标人员”信任。
近日就有一大学生遇到此类诈骗。肖丽(化名)的大学同学通过QQ跟她借钱。对方打过来一段五秒的视频电话,肖丽看到确实是本人,便放心转账3000元。然而,她在第二次转账时感觉异常,便便拨通对方电话,这才得知同学的账号被盗,于是报案。警方判断,那段视频很有可能是被人换了脸。
除了AI换脸、合成语音外,还有一些诈骗手段也防不胜防,前不久,就有骗子通过转发微信语音的方式行骗。在盗取某人微信号后,骗子便向其好友“借钱”,为取得对方信任,他们会转发之前的语音,进而骗取钱款。尽管微信没有语音转发功能,但他们通过提取语音文件或安装非官方版本(插件),可实现语音转发。
值得一提的是,这些骗局中,骗子不是漫无目的地全面撒网,而是通过AI技术筛选受骗人群,别有用心地锁定特定对象。他们会根据所要实施的骗术,对人群进行筛选,从而选出目标对象。
例如,进行金融诈骗时,经常在网上搜集投资信息的小伙伴,就会成为他们潜在的目标。
警方提醒
防范AI骗局
万变不离其宗
那么,面对AI新骗局,我们又该如何防范呢?
根据包头警方公布的案例,受骗的郭先生在看到好友的实时视频后,潜意识里选择相信对方,而这恰恰是利用AI技术实施骗局的目的所在,即利用目标人群熟悉的人实施诈骗,可以更快速地取得“目标”的信任。
其实,该类案件中,骗子骗术是在冒充熟人的套路上,借助AI技术增加实时画面和语音,使骗术更加具有迷惑性。据悉,生活中,AI换脸难以肉眼区分。因此,在涉及钱款交往时,要进行多方核实,例如通过电话询问具体信息等,确认对方真实身份。
在AI新骗局中,有人提出疑问,骗子是如何获取自己或他人相貌的?警方提示,日常生活中,一定要加强个人信息保护意识,对于不明平台发来的广告、中奖、交友等链接要提高警惕,不要随意填写个人信息,以免被骗子“精准围猎”。此外,年轻人对AI技术耳熟能详,但对老人而言,他们对AI技术几乎一窍不通,因此,针对家中老人要做好宣传防范工作,千万不要贸然转账。
警方提醒,无论骗子利用何种技术更新诈骗手段和套路,破解方法万变不离其宗,那就是:天上不会掉馅饼,涉及个人钱财转账时,一定要谨慎谨慎再谨慎,核实核实再核实。
本版稿件来源:记者 张国桐
瞭望东方周刊、澎湃新闻等
技术滥用风险不容低估
AI换脸技术被滥用,所带来的不仅是财产风险,还会引发肖像权、知识产权等领域的纷争。不过,还是要认识到,虽然人工智能增加了防诈骗的难度,但技术本身是中性的,主要问题还在于对技术的不当使用。像科技公司老板被骗一案中,至少有两层值得追问的地方:其一,个人微信、人脸等隐私信息是如何泄露的?其二,骗子团伙所使用的AI换脸技术服务,到底是谁在开发、提供?
作为个人信息的人脸,这种生物识别信息具有高度敏感性,很多人的手机、网银支付都是采用面容解锁。对人脸信息的使用处理,理应严格遵守信息保护边界,避免随意泄露,以免给骗子可乘之机；更要明确技术使用范围,严防被滥用。
为规范人工智能发展,尤其是规避AI换脸带来的系列问题,去年12月,《互联网信息服务深度合成管理规定》发布,对数据和技术管理规范进行了明确。比如,关于授权同意的原则提到,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,“应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意”。
简单来说,这些技术服务公司,不能随便使用普通人的人脸来换脸,必须经过本人同意,换脸不是想换就能随便换,也不是骗子给钱就能随便换。如果就此案深挖下去,不排除能揪出一条非法利用人工智能技术的黑产业链。
当然,人工智能开发还是一个高速成长的领域,规则的健全完善还需要时间。但不管怎么说,此次案件都提醒我们,技术被滥用的风险,对普通人造成的安全隐患和威胁,绝对不容低估。
对大众来说,在人工智能时代,我们得更加警惕,不要随意泄露个人信息,需要转账时要更加谨慎地核实。而对行业而言,必须尽快立规,明确信息保护红线,加强对技术服务商行为的规范引导等等。只有AI换脸、AI拟声等在每一个环节有据可依、严格授权,提升造假诈骗难度,才能更好保护每个人的信息和财产安全。 (澎湃)
【PDF版】
