法律服务热线:18606616560
< >

慈溪律师-慈溪刑事律师陈亮: 以案释法344 AI换脸变声的行骗案子

更新时间:2023年05月25日12:18:56 点击次数:136 打印此页 关闭
分享到:




 以案释法344  AI换脸变声的行骗案子



 

 

本案骗术用的是AI换脸技术和变声技术,用别人的脸来替换自己的脸,用别人的声音来替换自己的声音,效果逼真地进行【诈】骗。

 

一.案子简介

 

福州的郭老板突然接到1个好友的微信S频呼音,他打开S频看听到好友的面孔和声音,就开始聊天,相互寒喧几句后,好友就说有个事情很急要他帮忙,他现在在外地投标,要打430万元保证金,但对方要求保证金要公账户过账,所以想要借用郭老板公司的账户走一下账。好友只是借个户头专帐,郭老板爽快答应了。

好友向郭老板要了其公司的银行账号,一会就声称已经把钱打到郭老板的账户了,并把银行转账底单的截图,通过微信发给了郭老板。

基于微信聊天、转账底单截图、和平时对朋友的信任,郭老板没有核实钱是否到账,就按好友提供的保证金账号,先后分两笔把430万元给对方打了过去。

钱款打了后,郭老板给好友的微信发了一条消息,说钱已打到你账上,想不到好友微信回过来一个问号。

郭老板急忙拨打好友电话,对方说没有这回事,他这才意识到出大事了,连忙报警。好在郭老板是幸运的,警方与银联紧急联动,成功止付了330多万元资金,其他资金已被骗子转走,警方正在全力追缴中。

 

二.案件的警示

 

这个案子过程象个电视剧,但却是现实版的真剧。

骗术用的是AI换脸技术和变声技术,用别人的脸来替换自己的脸,用别人的声音来替换自己的声音,效果逼真地进行Z骗。

本案的整个过程只需通过一张别人的照片和音频,然后用AI技术,替换[视]频中的自己,从而生成以自己为主角的[视]频。凡看过电视剧风雨迎春归的读者,就知道,本来由赵立新扮演的余仲君,出事后,制作方就用AI技术换脸成于震的脸。

 

AI即人工智能,是一门新技术,是用一种计算机的软硬件,模拟人类智能行为的新技术。研究这种新技术,初衷是想解决人类能力的有限问题,从而延伸人的智能,实现人类社会的全面智能化。但不少专家认为,它的研究发展是把2刃剑,它可能会对人类的隐私、安全、道德、就业等方面产生负面影响,也可能被恶意利用,引发各种问题或危机甚至挑战人类的价值观和伦理,引发社会争议或冲突。

想不到,它在社会的负面影响来得这么快,本案的消息被迅速登上热搜1。

想象一下,如果骗子利用AI技术,将他人的脸声换成你亲人的脸声,你朋友的脸声,再通过微信或照片来骗取你的钱财,后果有多可怕。

警方提醒:如你涉及转账、汇款等情况,务必要通过多方渠道核实并确定对方身份,并建议将到账时间设定为2小时或者24小时,以备必时所需。

 

三.相关法律

 

1. 相关法律规定,只要行为人采用了以虚构事实,或者是隐匿真实情况的方式,达到诱导受害人对相关行为产生错误认识效果之后,将认定为电信网络【诈】骗;

2. 我省数额超过3000的,要追究刑事责任。

上一条:慈溪律师-慈溪刑事律师陈亮: 以案释法345 恶意办企骗货款入刑案 下一条: 高法建成查控系统,老赖更难遁形