AI科技的發(fā)展本是時代科技的進步。
但是有人卻利用科技卻干起壞事,真的讓人防不勝防。
![]()
央視李梓萌成受害者
10月15日,央視報道北京市場監(jiān)管部門查處了首例利用AI技術(shù)進行虛假廣告宣傳的案件。
而這起AI虛假廣告的受害人,竟然是著名的央視主持人李梓萌。
![]()
李梓萌作為央視的當家門面,主持新聞聯(lián)播,憑借央視的公信力和自身的國民喜愛度,形象非常受認可。
今年2月份,某些平臺的視頻中出現(xiàn)了李梓萌帶貨深海魚油的視頻。
該視頻用李梓萌的個人視頻畫面,搭配李梓萌的聲音,聲情并茂地介紹這款深海魚油。
用李梓萌的聲音播報這款魚油適合頭暈頭痛、手麻腳麻、記憶下降等人群。
![]()
很多上了年紀的老人一看,這是央視主持人李梓萌啊,她都親自推薦這款魚油,那肯定有用的。
而且產(chǎn)品設(shè)置的價格大概在幾十到一兩百之間,大部分人消費得起。
于是這些單純的大爺大媽紛紛下單購買。
可是買回去后,大家也發(fā)現(xiàn)不對勁了,這吃著很像普通糖果,而且也沒對疾病起到任何作用啊。
![]()
于是群眾就舉報到北京市場監(jiān)管局了。
這一查下去,才發(fā)現(xiàn)有大貓膩。
辦案人員鎖定了北京某公司,發(fā)現(xiàn)該公司在擁有88萬粉絲的賬號直播間,公然吹噓深海魚油各種功效。
而且直播中還出現(xiàn)了中央廣播電視總臺主持人李梓萌的形象。
經(jīng)過立案調(diào)查,該公司銷售的深海多烯魚油產(chǎn)品,實際執(zhí)行標準為糖果,沒任何功效。
而且經(jīng)過鑒定,視頻中的主持人形象完全是利用AI技術(shù)偽造生成。
![]()
![]()
騙子利用大眾抗疾病的心理,把糖果高價買成保健品,而且吃了糖果也沒有副作用,也不怕鬧出什么大事。
公然利用央視李梓萌這一行為更是膽大包天。
騙子企圖利用李梓萌形象換取產(chǎn)品推銷的公信力,殊不知這反而會讓他們更快被盯上。
![]()
全紅嬋成受害“重災(zāi)區(qū)”
這一兩年來,AI仿冒名人帶貨的亂象層出不窮。
全紅嬋作為國民跳水女兒,憑借親和的長相和體育實力,獲得全國人民的喜愛。
而騙子就是利用大眾對嬋寶的喜愛,用高科技將全紅嬋“偷臉盜聲”去騙錢。
![]()
有騙子利用全紅嬋賣蜂蜜,還有個騙子賬號所有視頻AI仿冒全紅嬋視頻賣土雞蛋。
聲音和全紅嬋太像了,而且話術(shù)也很高明。
“嬋寶今天有事想請大家?guī)兔Γ瑡让镁拖胫鴰椭鷭寢專尲依锏纳钸^得更好一點。今天讓媽媽先拿出300單老家的土雞蛋給大家放福利。”
![]()
這種話術(shù)利用全紅嬋普通人家孩子出生,努力為家人提升生活水平的勵志話語,消費大眾的同情心。
不僅如此,這個賬號的騙子還戴著口罩戴墨鏡,模仿全紅嬋的爸爸媽媽和哥哥,在直播間賣雞蛋。
![]()
這是明目張膽的犯罪行為。
騙子利用全紅嬋聲音還不夠,還肆無忌憚AI仿冒奧運冠軍孫穎莎和王楚欽的聲音,助力“全紅嬋賣土雞蛋”。
孫穎莎和王楚欽的AI聲音說嬋寶私信他們,讓他們幫忙宣傳,這么好的土雞蛋賣不出去可惜了。
![]()
![]()
騙子之所以選擇全紅嬋、孫穎莎和王楚欽,就是因為這幾個人的國民知名度和喜愛度非常高。
不知情的網(wǎng)友一看是自己喜愛的奧運健兒在推薦,紛紛下單購買,一下子賣出去幾萬單。
![]()
除了賣貨,社交平臺上還出現(xiàn)多個賬號使用AI合成全紅嬋爸爸、哥哥聲音,用完全相同的文案介紹全紅嬋家里要蓋新房的信息,以此來博取流量。
這種欺騙,消耗的是整個社會的誠信基礎(chǔ)。
面對侵權(quán),受害者本人維權(quán)非常困難。
全紅嬋的哥哥和爸爸無奈表示,平臺上的仿冒賬號“一大堆,告都告不過來”,他們一家人也很苦惱。
![]()
法律紅線
北京知名法學教授表示,利用人工智能合成的聲音,如果能根據(jù)他的音色以及風格關(guān)聯(lián)到規(guī)定自然人,那么就具有了法律上認定的可識別性,已經(jīng)構(gòu)成對他人的侵權(quán)行為。
而且我國《民法典》已經(jīng)明確規(guī)定,自然人的聲音受法律保護,參照肖像權(quán)。
對于膽敢侵權(quán)的不法分子,必須要讓他們付出沉重的代價。
![]()
還有平臺也有很大責任,不能對這類侵權(quán)內(nèi)容睜一只眼閉一只眼。
平臺必須利用技術(shù)手段加強審核,建立快速響應(yīng)的侵權(quán)舉報和處理機制。
咱們作為普通人,自身要提高警惕。
看到“名人”帶貨,尤其是宣傳些匪夷所思的“福利”時,多留個心眼辨真?zhèn)危乐股袭斒茯_。
技術(shù)本身沒有對錯,但它確實像一面鏡子,照出了使用它的人內(nèi)心的善惡。
從全紅嬋到李梓萌,警鐘已經(jīng)一次次敲響。
希望在各方的共同努力下,能盡快遏制住這股歪風。
讓AI這類新技術(shù),真正用于服務(wù)我們的生活,而不是成為騙子手中收割信任的工具。
備注:本文內(nèi)容均來自央視權(quán)威信息
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.