廣西
近日，演員溫崢嶸自曝遭AI盜播，有超過30個直播間同時盜用其AI合成形象直播帶貨。這些“數字分身”身著不同服裝，話術高度雷同。她本人進入假直播間質問：“你是溫崢嶸，那我是誰？”，竟被對方秒速拉黑。
近兩年，AI深度合成名人、換臉換聲的視頻層出不窮、屢禁不止。對此，專家表示，治理的核心在于全面落實內容標識制度，需嚴格區分AI技術的合法應用與非法濫用。
生成式人工智能的多模態能力，可以讓用戶輕易給視頻中的人物換臉換聲，甚至直接生成完全虛構的視頻，給不法分子帶來可乘之機。近期就發生了多起AI換臉換聲，生成虛假廣告的案件。比如，有的偽造奧運冠軍推薦土雞蛋，還有的偽造醫生形象推銷保健品，嚴重誤導公眾。
業內人士告訴記者，隨著AI換聲換臉技術的越來越成熟，已經足以達到以假亂真的地步。分辨一段視頻或者聲音是否是經過深度合成，最好的辦法還是通過AI去識別。即用AI去識別AI。
要知道9月已施行《人工智能生成合成內容標識辦法》，但違規直播間要么不標注，要么遮擋水印逃避監管，AI“分身”營銷亂象屢禁不止！
專家呼吁必須落實內容標識制度，平臺也得扛起監管責任，別讓技術濫用坑了藝人又騙了消費者！
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
