什么?
“张文宏”开始带货了?
最近
有网友向媒体
发来一段视频询问
“张文宏是不是带货了?”
在卖一种蛋白棒
家里的老人信以为真已经下单
还转发了很多群
该视频系AI合成
记者核实发现
这个账号名为“般画234”
在视频中
“张文宏”反复介绍一种产品
口型是他的
声音也是他的
但稍微懂点AI的小伙伴们
一眼就能分辨
这是AI合成的视频!
但是老年人哪里懂甄别啊?
记者发现
这段视频已在该账号内不可见
但商品橱窗内
还保留着蛋白棒售卖的页面
并显示已售出1266件
新民晚报记者晏秋秋评论,现在的科技,只要有一段张文宏正常说话的视频,再把你想要他说的话输入,AI一处理就能自动生成带货视频。不法账号趁着深夜把这种带货视频放出,到了早上再把视频屏蔽掉。这样买的人就投诉无门,而且也不太容易被发现。
这(zhe)么(me)做(zuo)毫(hao)无(wu)疑(yi)问(wen)就(jiu)是(shi)在(zai)犯(fan)罪(zui)卖(mai)掉(diao)这(zhe)几(ji)百(bai)单(dan)可(ke)能(neng)要(yao)坐(zuo)牢(lao)几(ji)年(nian)这(zhe)样(yang)的(de)账(zhang)号(hao)也(ye)存(cun)活(huo)不(bu)了(le)多(duo)久(jiu)平(ping)台(tai)会(hui)第(di)一(yi)时(shi)间(jian)封(feng)禁(jin)账(zhang)号(hao)封(feng)存(cun)资(zi)金(jin)
类似案例
“假靳东”骗老人上当
今年11月,江西一位老人来到银行办理银行卡,但手续不全又不肯离开,警方到现场后,老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
“我是在短视频平台上认识的‘靳东’,‘靳东’向我表白了,并用两人合照发布了短视频,现在他拍戏需要200万元,我要去帮助他。”老人略显激动在说道。
民(min)警(jing)随(sui)即(ji)拿(na)起(qi)老(lao)人(ren)的(de)手(shou)机(ji)进(jin)行(xing)查(zha)看(kan)发(fa)现(xian)老(lao)人(ren)所(suo)谓(wei)的(de)大(da)明(ming)星(xing)靳(jin)东(dong)是(shi)骗(pian)子(zi)冒(mao)充(chong)的(de)其(qi)所(suo)发(fa)布(bu)的(de)视(shi)频(pin)也(ye)是(shi)由(you)电(dian)脑(nao)A(A)I(I)合(he)成(cheng)但(dan)老(lao)人(ren)对(dui)网(wang)络(luo)知(zhi)之(zhi)甚(shen)少(shao)对(dui)于(yu)骗(pian)子(zi)所(suo)说(shuo)所(suo)做(zuo)深(shen)信(xin)不(bu)疑(yi)近了,这是一个拥有人形的生物,直立行走,庞大的惊人,身高比肩山岳,浑身没有毛发,通体密布着金色的鳞片,熠熠生辉。
民警向老人进行耐心劝导,通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式,老人才醒悟过来。
如何辨别
屏幕里是真人还是AI合成人?
蚂(ma)蚁(yi)集(ji)团(tuan)天(tian)玑(ji)实(shi)验(yan)室(shi)安(an)全(quan)算(suan)法(fa)专(zhuan)家(jia)朱(zhu)凯(kai)建(jian)议(yi)通(tong)过(guo)遮(zhe)挡(dang)结(jie)合(he)动(dong)起(qi)来(lai)的(de)方(fang)式(shi)来(lai)识(shi)别(bie)到(dao)底(di)是(shi)真(zhen)人(ren)还(hai)是(shi)数(shu)字(zi)人(ren)比(bi)如(ru)在(zai)摁(en)鼻(bi)子(zi)或(huo)摁(en)脸(lian)的(de)同(tong)时(shi)左(zuo)右(you)摇(yao)晃(huang)头(tou)部(bu)这(zhe)就(jiu)是(shi)动(dong)起(qi)来(lai)的(de)一(yi)种(zhong)方(fang)式(shi)目(mu)前(qian)很(hen)多(duo)A(A)I(I)换(huan)脸(lian)的(de)基(ji)础(chu)是(shi)被(bei)模(mo)仿(fang)者(zhe)的(de)照(zhao)片(pian)照(zhao)片(pian)是(shi)平(ping)面(mian)的(de)所(suo)以(yi)生(sheng)成(cheng)的(de)数(shu)字(zi)人(ren)以(yi)正(zheng)面(mian)平(ping)面(mian)为(wei)主(zhu)当(dang)人(ren)脸(lian)动(dong)起(qi)来(lai)时(shi)会(hui)呈(cheng)现(xian)出(chu)脸(lian)部(bu)的(de)三(san)维(wei)结(jie)构(gou)算(suan)法(fa)只(zhi)能(neng)基(ji)于(yu)平(ping)面(mian)的(de)照(zhao)片(pian)推(tui)测(ce)三(san)维(wei)结(jie)构(gou)按(an)照(zhao)现(xian)有(you)的(de)技(ji)术(shu)手(shou)段(duan)推(tui)测(ce)结(jie)果(guo)大(da)多(duo)不(bu)太(tai)理(li)想(xiang)从(cong)而(er)让(rang)人(ren)发(fa)现(xian)漏(lou)洞(dong)《完美世界》来自: https://m.txt99.cc/txt/1472.html===序章 大荒===夜已深,漆黑一片,景物不可见。一个肌体强健如虎豹的中年男子,穿着兽皮衣,皮肤呈古铜色,黑发披散,炯炯有神的眼眸扫过每一个孩子,正在认真指点他们。
此外,可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时,脸部表情、手部动作都很自然;如果是“数字人”,很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面,但“挥手”“比数字”意味更多的动作,目前技术还没办法实时生成完美效果,从而出现破绽。
值得注意的是,以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展,“动起来”“挥手”“比数字”等有可能难不倒新技术,“数字人”同样能顺利完成以上动作,从而更加具备迷惑性。所以,防范AI诈骗,还是要从自己出发,做好信息保护,提高警惕。