“张文宏”反复介绍一种产品

口型是他的

声音也是他的

但稍微懂点AI的小伙伴们

一眼就能分辨

这是AI合成的视频！

但是老年人哪里懂甄别啊？

记者发现

这段视频已在该账号内不可见

但商品橱窗内

还保留着蛋白棒售卖的页面

并显示已售出1266件

新民晚报记者晏秋秋评论，现在的科技，只要有一段张文宏正常说话的视频，再把你想要他说的话输入，AI一处理就能自动生成带货视频。不法账号趁着深夜把这种带货视频放出，到了早上再把视频屏蔽掉。这样买的人就投诉无门，而且也不太容易被发现。

这么做毫无疑问，就是在犯罪！卖掉这几百单，可能要坐牢几年，这样的账号也存活不了多久，平台会第一时间封禁账号、封存资金。

类似案例

“假靳东”骗老人上当

今年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。

“我是在短视频平台上认识的‘靳东’，‘靳东’向我表白了，并用两人合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动在说道。

民警随即拿起老人的手机进行查看，发现老人所谓的大明星“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对于骗子所说所做深信不疑。“族长爷爷，那些鸟龟字像鬼怪符样复杂，实在难学，用心记它做什么” “就是啊，还不如阿爸教我的箭法有用呢” 群孩子全都是苦瓜脸，很抵触。

民警向老人进行耐心劝导，通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式，老人才醒悟过来。

如何辨别

屏幕里是真人还是AI合成人？

蚂蚁集团天玑实验室安全算法专家朱凯建议，通过遮挡结合“动起来”的方式，来识别到底是真人还是“数字人”——比如，在摁鼻子或摁脸的同时左右摇晃头部，这就是“动起来”的一种方式。目前很多“AI换脸”的基础是被模仿者的照片，照片是平面的，所以生成的“数字人”以正面、平面为主。当人脸动起来时，会呈现出脸部的三维结构，算法只能基于平面的照片推测三维结构，按照现有的技术手段，推测结果大多不太理想，从而让人发现漏洞。

此(ci)外(wai)可(ke)以(yi)要(yao)求(qiu)对(dui)方(fang)在(zai)脸(lian)部(bu)挥(hui)手(shou)用(yong)手(shou)指(zhi)比(bi)数(shu)字(zi)等(deng)真(zhen)人(ren)做(zuo)这(zhe)些(xie)动(dong)作(zuo)时(shi)脸(lian)部(bu)表(biao)情(qing)手(shou)部(bu)动(dong)作(zuo)都(dou)很(hen)自(zi)然(ran)如(ru)果(guo)是(shi)数(shu)字(zi)人(ren)很(hen)可(ke)能(neng)出(chu)现(xian)问(wen)题(ti)虽(sui)然(ran)现(xian)有(you)的(de)A(A)I(I)技(ji)术(shu)有(you)能(neng)力(li)生(sheng)成(cheng)脸(lian)部(bu)被(bei)部(bu)分(fen)遮(zhe)挡(dang)的(de)静(jing)止(zhi)画(hua)面(mian)但(dan)挥(hui)手(shou)比(bi)数(shu)字(zi)意(yi)味(wei)更(geng)多(duo)的(de)动(dong)作(zuo)目(mu)前(qian)技(ji)术(shu)还(hai)没(mei)办(ban)法(fa)实(shi)时(shi)生(sheng)成(cheng)完(wan)美(mei)效(xiao)果(guo)从(cong)而(er)出(chu)现(xian)破(po)绽(zhan)

值(zhi)得(de)注(zhu)意(yi)的(de)是(shi)以(yi)上(shang)鉴(jian)别(bie)方(fang)式(shi)都(dou)是(shi)基(ji)于(yu)现(xian)有(you)算(suan)法(fa)的(de)局(ju)限(xian)性(xing)未(wei)来(lai)随(sui)着(zhe)A(A)I(I)技(ji)术(shu)的(de)发(fa)展(zhan)动(dong)起(qi)来(lai)挥(hui)手(shou)比(bi)数(shu)字(zi)等(deng)有(you)可(ke)能(neng)难(nan)不(bu)倒(dao)新(xin)技(ji)术(shu)数(shu)字(zi)人(ren)同(tong)样(yang)能(neng)顺(shun)利(li)完(wan)成(cheng)以(yi)上(shang)动(dong)作(zuo)从(cong)而(er)更(geng)加(jia)具(ju)备(bei)迷(mi)惑(huo)性(xing)所(suo)以(yi)防(fang)范(fan)A(A)I(I)诈(zha)骗(pian)还(hai)是(shi)要(yao)从(cong)自(zi)己(ji)出(chu)发(fa)做(zuo)好(hao)信(xin)息(xi)保(bao)护(hu)提(ti)高(gao)警(jing)惕(ti)” 面对大孩子的取笑，小不点憨憨的笑着，黑亮的大眼眯成了月牙状，毫不在乎，坐在陶罐前用木勺舀奶，吃的很香甜。“太阳初升，万物初始，生之气最盛，虽不能如传说中那般餐霞食气，但这样迎霞锻体自也有莫大好处，可充盈人体生机。