“张文宏”反复介绍一种产品

口型是他的

声音也是他的

但稍微懂点AI的小伙伴们

一眼就能分辨

这是AI合成的视频！

但是老年人哪里懂甄别啊？

记者发现

这段视频已在该账号内不可见

但商品橱窗内

还保留着蛋白棒售卖的页面

并显示已售出1266件

新民晚报记者晏秋秋评论，现在的科技，只要有一段张文宏正常说话的视频，再把你想要他说的话输入，AI一处理就能自动生成带货视频。不法账号趁着深夜把这种带货视频放出，到了早上再把视频屏蔽掉。这样买的人就投诉无门，而且也不太容易被发现。“族长爷爷，那些鸟龟字像鬼怪符样复杂，实在难学，用心记它做什么” “就是啊，还不如阿爸教我的箭法有用呢” 群孩子全都是苦瓜脸，很抵触。

这么做毫无疑问，就是在犯罪！卖掉这几百单，可能要坐牢几年，这样的账号也存活不了多久，平台会第一时间封禁账号、封存资金。

类似案例

“假靳东”骗老人上当

今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。

我(wo)是(shi)在(zai)短(duan)视(shi)频(pin)平(ping)台(tai)上(shang)认(ren)识(shi)的(de)靳(jin)东(dong)靳(jin)东(dong)向(xiang)我(wo)表(biao)白(bai)了(le)并(bing)用(yong)两(liang)人(ren)合(he)照(zhao)发(fa)布(bu)了(le)短(duan)视(shi)频(pin)现(xian)在(zai)他(ta)拍(pai)戏(xi)需(xu)要(yao)2(2)00万(wan)元(yuan)我(wo)要(yao)去(qu)帮(bang)助(zhu)他(ta)老(lao)人(ren)略(lve)显(xian)激(ji)动(dong)在(zai)说(shuo)道(dao)” “唔，昨天夜里我被惊醒了几次，皮骨发寒，一定是有什么洪荒凶兽与大虫从这里路过。

民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。“该不会是出了山宝吧”一个老人顿时瞪圆了眼睛，须发皆张，露出惊容。

民警向老人进行耐心劝导，通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才醒悟过来。

如何辨别

屏幕里是真人还是AI合成人？

蚂(ma)蚁(yi)集(ji)团(tuan)天(tian)玑(ji)实(shi)验(yan)室(shi)安(an)全(quan)算(suan)法(fa)专(zhuan)家(jia)朱(zhu)凯(kai)建(jian)议(yi)通(tong)过(guo)遮(zhe)挡(dang)结(jie)合(he)动(dong)起(qi)来(lai)的(de)方(fang)式(shi)来(lai)识(shi)别(bie)到(dao)底(di)是(shi)真(zhen)人(ren)还(hai)是(shi)数(shu)字(zi)人(ren)比(bi)如(ru)在(zai)摁(en)鼻(bi)子(zi)或(huo)摁(en)脸(lian)的(de)同(tong)时(shi)左(zuo)右(you)摇(yao)晃(huang)头(tou)部(bu)这(zhe)就(jiu)是(shi)动(dong)起(qi)来(lai)的(de)一(yi)种(zhong)方(fang)式(shi)目(mu)前(qian)很(hen)多(duo)A(A)I(I)换(huan)脸(lian)的(de)基(ji)础(chu)是(shi)被(bei)模(mo)仿(fang)者(zhe)的(de)照(zhao)片(pian)照(zhao)片(pian)是(shi)平(ping)面(mian)的(de)所(suo)以(yi)生(sheng)成(cheng)的(de)数(shu)字(zi)人(ren)以(yi)正(zheng)面(mian)平(ping)面(mian)为(wei)主(zhu)当(dang)人(ren)脸(lian)动(dong)起(qi)来(lai)时(shi)会(hui)呈(cheng)现(xian)出(chu)脸(lian)部(bu)的(de)三(san)维(wei)结(jie)构(gou)算(suan)法(fa)只(zhi)能(neng)基(ji)于(yu)平(ping)面(mian)的(de)照(zhao)片(pian)推(tui)测(ce)三(san)维(wei)结(jie)构(gou)按(an)照(zhao)现(xian)有(you)的(de)技(ji)术(shu)手(shou)段(duan)推(tui)测(ce)结(jie)果(guo)大(da)多(duo)不(bu)太(tai)理(li)想(xiang)从(cong)而(er)让(rang)人(ren)发(fa)现(xian)漏(lou)洞(dong)

此(ci)外(wai)可(ke)以(yi)要(yao)求(qiu)对(dui)方(fang)在(zai)脸(lian)部(bu)挥(hui)手(shou)用(yong)手(shou)指(zhi)比(bi)数(shu)字(zi)等(deng)真(zhen)人(ren)做(zuo)这(zhe)些(xie)动(dong)作(zuo)时(shi)脸(lian)部(bu)表(biao)情(qing)手(shou)部(bu)动(dong)作(zuo)都(dou)很(hen)自(zi)然(ran)如(ru)果(guo)是(shi)数(shu)字(zi)人(ren)很(hen)可(ke)能(neng)出(chu)现(xian)问(wen)题(ti)虽(sui)然(ran)现(xian)有(you)的(de)A(A)I(I)技(ji)术(shu)有(you)能(neng)力(li)生(sheng)成(cheng)脸(lian)部(bu)被(bei)部(bu)分(fen)遮(zhe)挡(dang)的(de)静(jing)止(zhi)画(hua)面(mian)但(dan)挥(hui)手(shou)比(bi)数(shu)字(zi)意(yi)味(wei)更(geng)多(duo)的(de)动(dong)作(zuo)目(mu)前(qian)技(ji)术(shu)还(hai)没(mei)办(ban)法(fa)实(shi)时(shi)生(sheng)成(cheng)完(wan)美(mei)效(xiao)果(guo)从(cong)而(er)出(chu)现(xian)破(po)绽(zhan)

值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展，“动起来”“挥手”“比数字”等有可能难不倒新技术，“数字人”同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范AI诈骗，还是要从自己出发，做好信息保护，提高警惕。