以案释法344 AI换脸变声的行骗案子
本案骗术用的是AI换脸技术和变声技术,用别人的脸来替换自己的脸,用别人的声音来替换自己的声音,效果逼真地进行【诈】骗。
一.案子简介
福州的郭老板突然接到1个好友的微信S频呼音,他打开S频看听到好友的面孔和声音,就开始聊天,相互寒喧几句后,好友就说有个事情很急要他帮忙,他现在在外地投标,要打430万元保证金,但对方要求保证金要公账户过账,所以想要借用郭老板公司的账户走一下账。好友只是借个户头专帐,郭老板爽快答应了。
好友向郭老板要了其公司的银行账号,一会就声称已经把钱打到郭老板的账户了,并把银行转账底单的截图,通过微信发给了郭老板。
基于微信聊天、转账底单截图、和平时对朋友的信任,郭老板没有核实钱是否到账,就按好友提供的保证金账号,先后分两笔把430万元给对方打了过去。
钱款打了后,郭老板给好友的微信发了一条消息,说钱已打到你账上,想不到好友微信回过来一个问号。
郭老板急忙拨打好友电话,对方说没有这回事,他这才意识到出大事了,连忙报警。好在郭老板是幸运的,警方与银联紧急联动,成功止付了330多万元资金,其他资金已被骗子转走,警方正在全力追缴中。
二.案件的警示
这个案子过程象个电视剧,但却是现实版的真剧。
骗术用的是AI换脸技术和变声技术,用别人的脸来替换自己的脸,用别人的声音来替换自己的声音,效果逼真地进行Z骗。
本案的整个过程只需通过一张别人的照片和音频,然后用AI技术,替换[视]频中的自己,从而生成以自己为主角的[视]频。凡看过电视剧风雨迎春归的读者,就知道,本来由赵立新扮演的余仲君,出事后,制作方就用AI技术换脸成于震的脸。
AI即人工智能,是一门新技术,是用一种计算机的软硬件,模拟人类智能行为的新技术。研究这种新技术,初衷是想解决人类能力的有限问题,从而延伸人的智能,实现人类社会的全面智能化。但不少专家认为,它的研究发展是把2刃剑,它可能会对人类的隐私、安全、道德、就业等方面产生负面影响,也可能被恶意利用,引发各种问题或危机甚至挑战人类的价值观和伦理,引发社会争议或冲突。
想不到,它在社会的负面影响来得这么快,本案的消息被迅速登上热搜1。
想象一下,如果骗子利用AI技术,将他人的脸声换成你亲人的脸声,你朋友的脸声,再通过微信或照片来骗取你的钱财,后果有多可怕。
警方提醒:如你涉及转账、汇款等情况,务必要通过多方渠道核实并确定对方身份,并建议将到账时间设定为2小时或者24小时,以备必时所需。
三.相关法律
1. 相关法律规定,只要行为人采用了以虚构事实,或者是隐匿真实情况的方式,达到诱导受害人对相关行为产生错误认识效果之后,将认定为电信网络【诈】骗;
2. 我省数额超过3000的,要追究刑事责任。