北小区-掏品新闻

什么?

“张文宏”开始带货了?

最近

有网友向媒体

发来一段视频询问

“张文宏是不是带货了?”

在卖一种蛋白棒

家里的老人信以为真已经下单

还转发了很多群

该视频系AI合成

记者核实发现

这个账号名为“般画234”

在视频中

“张文宏”反复介绍一种产品

口型是他的

声音也是他的

但稍微懂点AI的小伙伴们

一眼就能分辨

这是AI合成的视频!

但是老年人哪里懂甄别啊?

记者发现

这段视频已在该账号内不可见

但商品橱窗内

还保留着蛋白棒售卖的页面

并显示已售出1266件

新(xin)民(min)晚(wan)报(bao)记(ji)者(zhe)晏(yan)秋(qiu)秋(qiu)评(ping)论(lun)现(xian)在(zai)的(de)科(ke)技(ji)只(zhi)要(yao)有(you)一(yi)段(duan)张(zhang)文(wen)宏(hong)正(zheng)常(chang)说(shuo)话(hua)的(de)视(shi)频(pin)再(zai)把(ba)你(ni)想(xiang)要(yao)他(ta)说(shuo)的(de)话(hua)输(shu)入(ru)A(A)I(I)一(yi)处(chu)理(li)就(jiu)能(neng)自(zi)动(dong)生(sheng)成(cheng)带(dai)货(huo)视(shi)频(pin)不(bu)法(fa)账(zhang)号(hao)趁(chen)着(zhe)深(shen)夜(ye)把(ba)这(zhe)种(zhong)带(dai)货(huo)视(shi)频(pin)放(fang)出(chu)到(dao)了(le)早(zao)上(shang)再(zai)把(ba)视(shi)频(pin)屏(ping)蔽(bi)掉(diao)这(zhe)样(yang)买(mai)的(de)人(ren)就(jiu)投(tou)诉(su)无(wu)门(men)而(er)且(qie)也(ye)不(bu)太(tai)容(rong)易(yi)被(bei)发(fa)现(xian)“我觉得这大荒深处可能出了了不得的东西,引起了周围地域一些太古遗种的注意,纷纷赶过去了。

这么做毫无疑问,就是在犯罪!卖掉这几百单,可能要坐牢几年,这样的账号也存活不了多久,平台会第一时间封禁账号、封存资金。

类似案例

“假靳东”骗老人上当

今年11月,江西一位老人来到银行办理银行卡,但手续不全又不肯离开,警方到现场后,老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。村中各户都是石屋,夜深人静,这里祥和而安谧,像是与外界的黑暗还有兽吼隔绝了。

我(wo)是(shi)在(zai)短(duan)视(shi)频(pin)平(ping)台(tai)上(shang)认(ren)识(shi)的(de)靳(jin)东(dong)靳(jin)东(dong)向(xiang)我(wo)表(biao)白(bai)了(le)并(bing)用(yong)两(liang)人(ren)合(he)照(zhao)发(fa)布(bu)了(le)短(duan)视(shi)频(pin)现(xian)在(zai)他(ta)拍(pai)戏(xi)需(xu)要(yao)2(2)00万(wan)元(yuan)我(wo)要(yao)去(qu)帮(bang)助(zhu)他(ta)老(lao)人(ren)略(lve)显(xian)激(ji)动(dong)在(zai)说(shuo)道(dao)就这样,村最强壮的批人背着巨弓、带着阔剑出发了,走进了山川泽间,顿时股荒气息迎面扑来。

民警随即拿起老人的手机进行查看,发现老人所谓的大明星“靳东”是骗子冒充的,其所发布的视频也是由电脑AI合成,但老人对网络知之甚少,对于骗子所说所做深信不疑。

民警向老人进行耐心劝导,通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式,老人才醒悟过来。

如何辨别

屏幕里是真人还是AI合成人?

蚂蚁集团天玑实验室安全算法专家朱凯建议,通过遮挡结合“动起来”的方式,来识别到底是真人还是“数字人”——比如,在摁鼻子或摁脸的同时左右摇晃头部,这就是“动起来”的一种方式。目前很多“AI换脸”的基础是被模仿者的照片,照片是平面的,所以生成的“数字人”以正面、平面为主。当人脸动起来时,会呈现出脸部的三维结构,算法只能基于平面的照片推测三维结构,按照现有的技术手段,推测结果大多不太理想,从而让人发现漏洞。

此外,可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时,脸部表情、手部动作都很自然;如果是“数字人”,很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面,但“挥手”“比数字”意味更多的动作,目前技术还没办法实时生成完美效果,从而出现破绽。

值(zhi)得(de)注(zhu)意(yi)的(de)是(shi)以(yi)上(shang)鉴(jian)别(bie)方(fang)式(shi)都(dou)是(shi)基(ji)于(yu)现(xian)有(you)算(suan)法(fa)的(de)局(ju)限(xian)性(xing)未(wei)来(lai)随(sui)着(zhe)A(A)I(I)技(ji)术(shu)的(de)发(fa)展(zhan)动(dong)起(qi)来(lai)挥(hui)手(shou)比(bi)数(shu)字(zi)等(deng)有(you)可(ke)能(neng)难(nan)不(bu)倒(dao)新(xin)技(ji)术(shu)数(shu)字(zi)人(ren)同(tong)样(yang)能(neng)顺(shun)利(li)完(wan)成(cheng)以(yi)上(shang)动(dong)作(zuo)从(cong)而(er)更(geng)加(jia)具(ju)备(bei)迷(mi)惑(huo)性(xing)所(suo)以(yi)防(fang)范(fan)A(A)I(I)诈(zha)骗(pian)还(hai)是(shi)要(yao)从(cong)自(zi)己(ji)出(chu)发(fa)做(zuo)好(hao)信(xin)息(xi)保(bao)护(hu)提(ti)高(gao)警(jing)惕(ti)

发布于:山东省
意见反馈 合作

Copyright © 2024 Sohu All Rights Reserved

搜狐公司 版权所有