“张文宏”反复介绍一种产品

口型是他的

声音也是他的

但稍微懂点AI的小伙伴们

一眼就能分辨

这是AI合成的视频！

但是老年人哪里懂甄别啊？

记者发现

这段视频已在该账号内不可见

但商品橱窗内

还保留着蛋白棒售卖的页面

并显示已售出1266件

新(xin)民(min)晚(wan)报(bao)记(ji)者(zhe)晏(yan)秋(qiu)秋(qiu)评(ping)论(lun)现(xian)在(zai)的(de)科(ke)技(ji)只(zhi)要(yao)有(you)一(yi)段(duan)张(zhang)文(wen)宏(hong)正(zheng)常(chang)说(shuo)话(hua)的(de)视(shi)频(pin)再(zai)把(ba)你(ni)想(xiang)要(yao)他(ta)说(shuo)的(de)话(hua)输(shu)入(ru)A(A)I(I)一(yi)处(chu)理(li)就(jiu)能(neng)自(zi)动(dong)生(sheng)成(cheng)带(dai)货(huo)视(shi)频(pin)不(bu)法(fa)账(zhang)号(hao)趁(chen)着(zhe)深(shen)夜(ye)把(ba)这(zhe)种(zhong)带(dai)货(huo)视(shi)频(pin)放(fang)出(chu)到(dao)了(le)早(zao)上(shang)再(zai)把(ba)视(shi)频(pin)屏(ping)蔽(bi)掉(diao)这(zhe)样(yang)买(mai)的(de)人(ren)就(jiu)投(tou)诉(su)无(wu)门(men)而(er)且(qie)也(ye)不(bu)太(tai)容(rong)易(yi)被(bei)发(fa)现(xian)” 面对大孩子的取笑，小不点憨憨的笑着，黑亮的大眼眯成了月牙状，毫不在乎，坐在陶罐前用木勺舀奶，吃的很香甜。

这(zhe)么(me)做(zuo)毫(hao)无(wu)疑(yi)问(wen)就(jiu)是(shi)在(zai)犯(fan)罪(zui)卖(mai)掉(diao)这(zhe)几(ji)百(bai)单(dan)可(ke)能(neng)要(yao)坐(zuo)牢(lao)几(ji)年(nian)这(zhe)样(yang)的(de)账(zhang)号(hao)也(ye)存(cun)活(huo)不(bu)了(le)多(duo)久(jiu)平(ping)台(tai)会(hui)第(di)一(yi)时(shi)间(jian)封(feng)禁(jin)账(zhang)号(hao)封(feng)存(cun)资(zi)金(jin)事实上，食物不充裕对于石村来说一直是一个很严重的问题。而那些身材健壮如虎的成年人则是一阵笑骂，数落着自己的孩子，拎着骨棒与阔剑也快步向自家中走去。

类似案例

“假靳东”骗老人上当

今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。

“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动在说道。

民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。

民警向老人进行耐心劝导，通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才醒悟过来。

如何辨别

屏幕里是真人还是AI合成人？

蚂蚁集团天玑实验室安全算法专家朱凯建议，通过遮挡结合“动起来”的方式，来识别到底是真人还是“数字人”——比如，在摁鼻子或摁脸的同时左右摇晃头部，这就是“动起来”的一种方式。目前很多“AI换脸”的基础是被模仿者的照片，照片是平面的，所以生成的“数字人”以正面、平面为主。当人脸动起来时，会呈现出脸部的三维结构，算法只能基于平面的照片推测三维结构，按照现有的技术手段，推测结果大多不太理想，从而让人发现漏洞。

此外，可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时，脸部表情、手部动作都很自然；如果是“数字人”，很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面，但“挥手”“比数字”意味更多的动作，目前技术还没办法实时生成完美效果，从而出现破绽。

值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展，“动起来”“挥手”“比数字”等有可能难不倒新技术，“数字人”同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范AI诈骗，还是要从自己出发，做好信息保护，提高警惕。