廣東
溫崢嶸同時出現在十幾個直播間帶貨，劉濤、張柏芝集體為一款面膜站臺。
奧運冠軍全紅嬋賣起了土雞蛋，連白巖松都跨界“治失眠、賣保健品”。
但這些事，沒一件是真的。
背后全是AI在搞鬼，連央視都忍不住下場批評，白巖松早前的警告更是字字應驗。
演員群體遭殃
11月2日，有網友刷短視頻時發現，溫崢嶸同時現身好幾個不同的直播間里。
那邊穿黑色裙子賣家具，這邊換了白裙子賣面霜。
短短十幾分鐘里，就刷到四個不同品牌的視頻。
更離譜的是，雖然賣的東西不一樣，但溫崢嶸說的話術都大差不差，甚至連語氣都一樣。
網友仔細分辨之后，發現他們全是AI合成的都是假的。
其實早在今年4月1日，溫崢嶸就專門發過打假視頻。
明確的說自己只有一個官方直播賬號，市面上那些冒牌直播間全是騙子，還呼吁粉絲看到就舉報。
可粉絲們的舉報根本趕不上騙子造假的速度，這個剛舉報完，結果轉頭又冒出新的。
更過分的還在后頭，有商家為了讓假貨看起來更可信，直接用AI合成了一堆明星站臺的視頻。
視頻里，劉濤笑著說：
“我很感謝溫崢嶸給我推薦了xx面膜。”
連戚薇、張柏芝、舒淇的臉都出現在畫面里。
可這視頻漏洞百出，戚薇的片段是她之前參加婚紗活動的素材，跟面膜八竿子打不著。
而且所有人的口型都跟聲音對不上，一眼就是合成的。
不過，年輕人能分辨出來，可家里的老人哪有這本事？
要是他們刷到這些視頻，說不定真就信了“明星推薦”，掏腰包買了沒用的假貨。
而溫崢嶸這邊更冤枉，自己兢兢業業直播，反倒被一堆假賬號攪得口碑受影響。
其實早在這些事爆發前，白巖松就已經給咱們敲過警鐘了。
白巖松的警示
白巖松之前在節目里就說過“小心AI，能造假詐騙”。
結果這話剛說完沒多久，他自己就成了AI造假的受害者。
今年上半年開始，老有人跑來問他：“你開始帶貨了？還幫人治失眠、治白頭發？”
白巖松一臉懵：“我根本沒干過這些。”
直到朋友把視頻發給他，他才看明白。
畫面里的人臉確實是他，但聲音是AI合成的，雖然仔細聽能聽出差別，可隨便掃一眼根本分辨不出來，后來他專門在央視頻發文解釋這件事。
如今AI技術越來越厲害，網上甚至出現了靠AI合成技術維持生計的商家。
現在搜“AI合成教程”，一堆人在賣軟件，還手把手教怎么克隆聲音、換臉，整套下來成本才幾十塊錢，門檻低得嚇人。
這些合成軟件在網上隨便就能買到，騙子花點小錢就能“變成”名人，專門騙那些不仔細分辨的普通人。
可AI造假的坑，不光明星、名嘴躲不過，連為國爭光的運動員也沒能幸免。
前段時間全紅嬋的哥哥全進華在直播里氣得直跺腳，對著鏡頭喊：
“我妹妹在訓練基地天天訓練，怎么可能賣雞蛋？那些全是AI合成的聲音。”
這事得從幾個月前說起，有網友發現，抖音上有個賬號，發了十幾條全紅嬋“帶貨”的視頻。
全是用AI克隆她的聲音，說“自家的土雞蛋特別香，大家支持一下”。
其中一條視頻點贊量都上萬了，商品鏈接顯示賣出去4.7萬件。
評論區里全是粉絲留言：“嬋寶推薦的肯定好，買了”可誰能想到，這根本不是全紅嬋本人。
更可氣的是，這不是全紅嬋第一次被盯上了。
今年4月就有騙子用AI合成她和家人的聲音，賣十幾塊錢一斤的蜂蜜；
后來騙子又換成了奶粉、洗衣液，甚至合成全紅嬋爸爸的聲音說“家里要蓋新房”，全是為了騙流量、騙錢。
現在不光全紅嬋，孫穎莎、王楚欽這些奧運冠軍的聲音也被克隆了，全都在賣同款土雞蛋，套路一模一樣。
央視多次發文抵制，可這些人還是變本加厲。
除了名人明星，還有一群人正被AI逼得沒飯吃，那就是配音演員。咱們平時看動漫、聽有聲書，那些好聽的聲音背后都是配音演員的心血。
可現在AI能一鍵復制他們的聲音，隨便用在廣告、短視頻里，連招呼都不打一聲。
也難怪現在AI廣告、AI“代言人”越來越火爆，畢竟對商家來說，花的錢比請真人少太多，可對配音演員來說，這簡直是斷了生路。
要是說冒充名人、偷用聲音已經夠離譜了，那有些騙子的操作，簡直是突破底線，連未成年人都不放過。
毫無下限
現在的孩子都愛在短視頻平臺發日常，今天拍個生日，明天發一個學習視頻。
這些看似普通的素材，騙子隨手就能下載，要么合成搞怪視頻博流量，要么做成低俗內容牟利。
家長連孩子的照片什么時候被拿去動手腳都不知道，想防都防不住。
而且隨著AI技術越來越高級，不光未成年人受威脅，明星也難逃“被低俗化”的坑。
有人專門扒明星的活動照、影視劇截圖，把臉換到低俗擦邊的圖片或短視頻里。
比如把女演員的臉換到暴露的網紅視頻里，配上曖昧文案發在灰色平臺，甚至做成小廣告彈窗到處推送。
這些操作看著像是“玩梗”，其實早就踩了法律紅線。
比低俗造假更可怕的是，AI現在還成了詐騙分子的“新武器”。
之前就有新聞報道，有家長突然收到一段孩子的求救視頻，說自己出車禍了，孩子的臉、穿著都和平時一模一樣。
家長一看急得渾身發抖，哪還顧得上核實，趕緊把錢轉了過去。
結果事后聯系孩子才知道，孩子還在學校好好上課，那段視頻是騙子合成的，而錢早就被轉去境外，追都追不回來了。
現在短視頻平臺上處處可見AI的身影，幾乎能做到以假亂真的地步。
結語
我們不是要反對AI，而是要反對AI被濫用。
AI本身是能造福生活的工具，可當它被用來造假、侵權、詐騙時，就成了傷害他人的利器，這才是我們真正需要警惕的問題。
部分參考資料：
新華社新媒體|追光｜嬋寶、莎莎、“大頭”喊你買土雞蛋？別信，那是AI偽造的.2025
北京日報|銳評丨溫崢嶸同時“現身”多個直播間？AI可“分身”，監管不能乏術.2025
央視新聞|新聞1+1丨AI亂象治理要“打假”也要能“辨真”2025
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
