鲁西化工集团股份有限公司-掏品新闻

什么?

“张文宏”开始带货了?

最近

有网友向媒体

发来一段视频询问

“张文宏是不是带货了?”

在卖一种蛋白棒

家里的老人信以为真已经下单

还转发了很多群

该视频系AI合成

记者核实发现

这个账号名为“般画234”

在视频中

“张文宏”反复介绍一种产品

口型是他的

声音也是他的

但稍微懂点AI的小伙伴们

一眼就能分辨

这是AI合成的视频!

但是老年人哪里懂甄别啊?

记者发现

这段视频已在该账号内不可见

但商品橱窗内

还保留着蛋白棒售卖的页面

并显示已售出1266件

新(xin)民(min)晚(wan)报(bao)记(ji)者(zhe)晏(yan)秋(qiu)秋(qiu)评(ping)论(lun)现(xian)在(zai)的(de)科(ke)技(ji)只(zhi)要(yao)有(you)一(yi)段(duan)张(zhang)文(wen)宏(hong)正(zheng)常(chang)说(shuo)话(hua)的(de)视(shi)频(pin)再(zai)把(ba)你(ni)想(xiang)要(yao)他(ta)说(shuo)的(de)话(hua)输(shu)入(ru)A(A)I(I)一(yi)处(chu)理(li)就(jiu)能(neng)自(zi)动(dong)生(sheng)成(cheng)带(dai)货(huo)视(shi)频(pin)不(bu)法(fa)账(zhang)号(hao)趁(chen)着(zhe)深(shen)夜(ye)把(ba)这(zhe)种(zhong)带(dai)货(huo)视(shi)频(pin)放(fang)出(chu)到(dao)了(le)早(zao)上(shang)再(zai)把(ba)视(shi)频(pin)屏(ping)蔽(bi)掉(diao)这(zhe)样(yang)买(mai)的(de)人(ren)就(jiu)投(tou)诉(su)无(wu)门(men)而(er)且(qie)也(ye)不(bu)太(tai)容(rong)易(yi)被(bei)发(fa)现(xian)

这么做毫无疑问,就是在犯罪!卖掉这几百单,可能要坐牢几年,这样的账号也存活不了多久,平台会第一时间封禁账号、封存资金。

类似案例

“假靳东”骗老人上当

今(jin)年(nian)1(1)1(1)月(yue)江(jiang)西(xi)一(yi)位(wei)老(lao)人(ren)来(lai)到(dao)银(yin)行(xing)办(ban)理(li)银(yin)行(xing)卡(ka)但(dan)手(shou)续(xu)不(bu)全(quan)又(you)不(bu)肯(ken)离(li)开(kai)警(jing)方(fang)到(dao)现(xian)场(chang)后(hou)老(lao)人(ren)表(biao)示(shi)要(yao)到(dao)银(yin)行(xing)贷(dai)款(kuan)2(2)00万(wan)元(yuan)给(gei)自(zi)己(ji)的(de)男(nan)朋(peng)友(you)靳(jin)东(dong)拍(pai)戏(xi)

“我是在短视频平台上认识的‘靳东’,‘靳东’向我表白了,并用两人合照发布了短视频,现在他拍戏需要200万元,我要去帮助他。”老人略显激动在说道。另外,今天晚上八点大家可以来歪歪2579玩,我也去。

民警随即拿起老人的手机进行查看,发现老人所谓的大明星“靳东”是骗子冒充的,其所发布的视频也是由电脑AI合成,但老人对网络知之甚少,对于骗子所说所做深信不疑。

民警向老人进行耐心劝导,通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式,老人才醒悟过来。

如何辨别

屏幕里是真人还是AI合成人?

蚂(ma)蚁(yi)集(ji)团(tuan)天(tian)玑(ji)实(shi)验(yan)室(shi)安(an)全(quan)算(suan)法(fa)专(zhuan)家(jia)朱(zhu)凯(kai)建(jian)议(yi)通(tong)过(guo)遮(zhe)挡(dang)结(jie)合(he)动(dong)起(qi)来(lai)的(de)方(fang)式(shi)来(lai)识(shi)别(bie)到(dao)底(di)是(shi)真(zhen)人(ren)还(hai)是(shi)数(shu)字(zi)人(ren)比(bi)如(ru)在(zai)摁(en)鼻(bi)子(zi)或(huo)摁(en)脸(lian)的(de)同(tong)时(shi)左(zuo)右(you)摇(yao)晃(huang)头(tou)部(bu)这(zhe)就(jiu)是(shi)动(dong)起(qi)来(lai)的(de)一(yi)种(zhong)方(fang)式(shi)目(mu)前(qian)很(hen)多(duo)A(A)I(I)换(huan)脸(lian)的(de)基(ji)础(chu)是(shi)被(bei)模(mo)仿(fang)者(zhe)的(de)照(zhao)片(pian)照(zhao)片(pian)是(shi)平(ping)面(mian)的(de)所(suo)以(yi)生(sheng)成(cheng)的(de)数(shu)字(zi)人(ren)以(yi)正(zheng)面(mian)平(ping)面(mian)为(wei)主(zhu)当(dang)人(ren)脸(lian)动(dong)起(qi)来(lai)时(shi)会(hui)呈(cheng)现(xian)出(chu)脸(lian)部(bu)的(de)三(san)维(wei)结(jie)构(gou)算(suan)法(fa)只(zhi)能(neng)基(ji)于(yu)平(ping)面(mian)的(de)照(zhao)片(pian)推(tui)测(ce)三(san)维(wei)结(jie)构(gou)按(an)照(zhao)现(xian)有(you)的(de)技(ji)术(shu)手(shou)段(duan)推(tui)测(ce)结(jie)果(guo)大(da)多(duo)不(bu)太(tai)理(li)想(xiang)从(cong)而(er)让(rang)人(ren)发(fa)现(xian)漏(lou)洞(dong)

此外,可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时,脸部表情、手部动作都很自然;如果是“数字人”,很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面,但“挥手”“比数字”意味更多的动作,目前技术还没办法实时生成完美效果,从而出现破绽。确切的说,这是一株雷击木,在很多年前曾经遭遇过通天的闪电,老柳树巨大的树冠与旺盛的生机被摧毁了。

值得注意的是,以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展,“动起来”“挥手”“比数字”等有可能难不倒新技术,“数字人”同样能顺利完成以上动作,从而更加具备迷惑性。所以,防范AI诈骗,还是要从自己出发,做好信息保护,提高警惕。”他一直在锲而不舍地追那只五色雀,早已气喘吁吁,此时一屁股坐在了地上。

发布于:山东省
意见反馈 合作

Copyright © 2024 Sohu All Rights Reserved

搜狐公司 版权所有