电影经典-掏品新闻

什么?

“张文宏”开始带货了?

最近

有网友向媒体

发来一段视频询问

“张文宏是不是带货了?”

在卖一种蛋白棒

家里的老人信以为真已经下单

还转发了很多群

该视频系AI合成

记者核实发现

这个账号名为“般画234”

在视频中

“张文宏”反复介绍一种产品

口型是他的

声音也是他的

但稍微懂点AI的小伙伴们

一眼就能分辨

这是AI合成的视频!

但是老年人哪里懂甄别啊?

记者发现

这段视频已在该账号内不可见

但商品橱窗内

还保留着蛋白棒售卖的页面

并显示已售出1266件

新民晚报记者晏秋秋评论,现在的科技,只要有一段张文宏正常说话的视频,再把你想要他说的话输入,AI一处理就能自动生成带货视频。不法账号趁着深夜把这种带货视频放出,到了早上再把视频屏蔽掉。这样买的人就投诉无门,而且也不太容易被发现。

这(zhe)么(me)做(zuo)毫(hao)无(wu)疑(yi)问(wen)就(jiu)是(shi)在(zai)犯(fan)罪(zui)卖(mai)掉(diao)这(zhe)几(ji)百(bai)单(dan)可(ke)能(neng)要(yao)坐(zuo)牢(lao)几(ji)年(nian)这(zhe)样(yang)的(de)账(zhang)号(hao)也(ye)存(cun)活(huo)不(bu)了(le)多(duo)久(jiu)平(ping)台(tai)会(hui)第(di)一(yi)时(shi)间(jian)封(feng)禁(jin)账(zhang)号(hao)封(feng)存(cun)资(zi)金(jin)“嗡”的声,他的手心出现块光亮,浮现出个奇怪的字,像是以金属浇铸而成,拥有种金属光泽与质感,很快另只手也出现了。

类似案例

“假靳东”骗老人上当

今(jin)年(nian)1(1)1(1)月(yue)江(jiang)西(xi)一(yi)位(wei)老(lao)人(ren)来(lai)到(dao)银(yin)行(xing)办(ban)理(li)银(yin)行(xing)卡(ka)但(dan)手(shou)续(xu)不(bu)全(quan)又(you)不(bu)肯(ken)离(li)开(kai)警(jing)方(fang)到(dao)现(xian)场(chang)后(hou)老(lao)人(ren)表(biao)示(shi)要(yao)到(dao)银(yin)行(xing)贷(dai)款(kuan)2(2)00万(wan)元(yuan)给(gei)自(zi)己(ji)的(de)男(nan)朋(peng)友(you)靳(jin)东(dong)拍(pai)戏(xi)

“我是在短视频平台上认识的‘靳东’,‘靳东’向我表白了,并用两人合照发布了短视频,现在他拍戏需要200万元,我要去帮助他。”老人略显激动在说道。

民警随即拿起老人的手机进行查看,发现老人所谓的大明星“靳东”是骗子冒充的,其所发布的视频也是由电脑AI合成,但老人对网络知之甚少,对于骗子所说所做深信不疑。

民警向老人进行耐心劝导,通过展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式,老人才醒悟过来。最后,几十名青壮年男子在村头集合,由族长石云峰带着来到旁边的雷击木前,对着老柳树认真祈祷。

如何辨别

屏幕里是真人还是AI合成人?

蚂蚁集团天玑实验室安全算法专家朱凯建议,通过遮挡结合“动起来”的方式,来识别到底是真人还是“数字人”——比如,在摁鼻子或摁脸的同时左右摇晃头部,这就是“动起来”的一种方式。目前很多“AI换脸”的基础是被模仿者的照片,照片是平面的,所以生成的“数字人”以正面、平面为主。当人脸动起来时,会呈现出脸部的三维结构,算法只能基于平面的照片推测三维结构,按照现有的技术手段,推测结果大多不太理想,从而让人发现漏洞。“噢,居然有土龙肉,给我一块” 这些孩子都很活泼与好动,即便吃饭时也都不太老实,不少人抱着陶碗从自家出来,凑到了一起。

此外,可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时,脸部表情、手部动作都很自然;如果是“数字人”,很可能出现问题。虽然现有的AI技术有能力生成脸部被部分遮挡的静止画面,但“挥手”“比数字”意味更多的动作,目前技术还没办法实时生成完美效果,从而出现破绽。

值得注意的是,以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展,“动起来”“挥手”“比数字”等有可能难不倒新技术,“数字人”同样能顺利完成以上动作,从而更加具备迷惑性。所以,防范AI诈骗,还是要从自己出发,做好信息保护,提高警惕。

发布于:山东省
意见反馈 合作

Copyright © 2024 Sohu All Rights Reserved

搜狐公司 版权所有