本文陳述所有內容皆有可靠信息來源,贅述在文章結尾
《新聞聯播》主播李梓萌的臉,居然被AI偷去賣假藥了!
![]()
不法分子將她的面部影像植入偽造的演播環境中,模仿熟悉的播報語調,向中老年群體宣稱某款魚油可徹底緩解頭暈手麻癥狀,短短三周內非法牟利高達420萬元!
更令人震驚的是,受害的遠不止李梓萌一人——張文宏、靳東、全紅嬋等公眾人物同樣遭遇AI技術濫用,甚至連普通民眾也難逃其害,這場由人工智能引發的信任危機正迅速蔓延。
![]()
為何偏偏盯上李梓萌的臉
選擇李梓萌并非偶然,她在央視熒屏前堅守崗位多年,形象早已與權威、可信深度綁定,成為大眾心中極具公信力的媒體符號。
對于長期收看《新聞聯播》的中老年觀眾而言,突然在短視頻平臺看到“李梓萌”親自推薦產品,背景又是高度還原的新聞演播廳,極容易放松警惕,誤以為這是官方背書的真實廣告。
![]()
而消費者傾盡積蓄購買的所謂“深海多烯魚油”,實際執行標準竟為普通糖果類食品。更具諷刺意味的是,現實生活中的李梓萌性格樸實親民,曾因口誤被網友親切稱為“勞動姐”,倪萍也曾打趣她因頻繁出錯播報幾乎要貸款上班。
這些生活化細節本讓她更具人情味,卻反被黑產利用,通過AI復刻其語氣神態,極大增強了虛假內容的欺騙性。
![]()
一邊是李梓萌始終嚴守職業操守,年近五旬仍堅持獨立自主的生活態度;另一邊則是她的數字替身毫無底線地行騙斂財。二十載積累的專業信譽,在AI偽造面前竟如薄紙般一捅即破,令人扼腕嘆息!
李梓萌事件僅是冰山一角,無論是公眾人物還是普通個體,都可能成為AI盜用的目標。
張文宏醫生的形象被合成進推銷蛋白粉和降壓保健品的視頻中,騙子意圖借其醫學權威身份獲取信任;靳東的聲音被AI克隆后用于情感類語音直播,以“知心大叔”人設誘導中老年粉絲打賞,單場收益突破十萬元。
![]()
就連奧運冠軍全紅嬋帶有地方特色的語音也被盜用,用來推廣土雞蛋產品,銷量高達4.7萬份,最終不得不由家人公開辟謠,既無奈又心酸。
更嚴重的是對普通人的侵害:遼寧方女士的身份信息遭惡意盜取,稀里糊涂成了他人婚姻登記中的配偶,還背負起虛假債務,留下兩條非法婚姻記錄。
![]()
杭州谷女士的日常視頻被竊取并惡意剪輯,一夜之間被塑造成婚外情主角,名譽掃地,生活陷入混亂。這一切揭示了一個殘酷現實:在AI技術面前,個人身份與聲譽的防線脆弱得不堪一擊。
全民打響反AI盜臉保衛戰
面對日益猖獗的AI詐騙行為,社會各方并未袖手旁觀,法律規制、技術防御與公眾意識共同構筑起一道反擊防線。
![]()
首先,監管部門果斷出手。北京市海淀區市場監管局對冒用李梓萌形象的企業開出126萬元罰單,并首次援引《廣告法》明確界定:“使用AI偽造人臉進行帶貨屬于違法行為”!
相關責任人被列入失信名單,三年內禁止從事直播行業,這一懲戒措施直接切斷其再犯路徑,形成有力震懾。
國家層面亦加快立法步伐,今年9月正式施行的《人工智能生成合成內容標識辦法》,強制要求所有AI生成內容必須攜帶可識別標記——視頻需添加顯著標注,音頻須嵌入數字水印,旨在構建數字世界的“防偽系統”,讓虛假信息無處遁形。
![]()
技術防控同步推進,主流直播平臺已部署“真人動態驗證系統”,通過捕捉微表情、眨眼頻率等生物特征識別真偽,有效阻斷AI虛擬形象冒充真人上線直播的可能性。
多家影視公司開始為旗下藝人申請面部數據數字版權,將藝人的“臉”作為知識產權資產加以保護,防止未經授權的復制與傳播。
最令人動容的是李梓萌本人的回應:她在獲得120萬元名譽權賠償后,全額捐贈給中國傳媒大學,設立“AI倫理與普法教育基金”,致力于普及人工智能風險防范知識。
![]()
她坦言:“技術的發展應當增進人與人之間的信任,而不是加劇懷疑。”這句話直擊人心,道出了科技倫理的核心命題。
如今,社區街道、中小學校陸續開設AI詐騙識別課程,幫助居民掌握辨別合成內容的技巧,公眾的數字素養與防騙能力正在逐步提升。
結語
![]()
李梓萌被AI盜用形象一事,無疑為全社會敲響警鐘:在智能時代,我們的信任不應輕易淪為技術濫用的犧牲品。當前,法律框架不斷完善,技術手段持續升級,公民意識逐漸覺醒,多方合力正試圖為AI發展套上制度與道德的韁繩,確保其服務于人類福祉而非助長欺詐。
盡管遏制AI濫用的道路依然漫長,但值得欣慰的是,行動已經開啟。只要每個人保持警覺,配合規則建設與技術創新,我們終將守住那份珍貴的社會信任,不讓先進技術淪為傷害他人的利器。
![]()
參考資料:南充政法《央視主持人李梓萌被AI仿冒,官方通報》
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.