老師校園內“捕殺”學生？AI社交應用不能“圍獵孩子”

“10歲女孩失去愛人（丈夫）”“老師校園內‘捕殺’學生”……近日，大數據研究院調查發現，在國內數款“沉浸式角色扮演”AI社交應用的聊天場景中，影響未成年人的不良內容隱患明顯：不僅獵奇角色、危險劇情屢見不鮮，部分AI角色經用戶“調教”后，還會用露骨言論誘導。更值得警惕的是，據觀察，這類應用已吸引大量未成年人。
（10月13日《今晚報》）

當10歲女孩在AI社交應用里經歷“失去愛人”的悲傷，當老師角色在虛擬校園中“捕殺”學生，這些看似荒誕的劇情，正通過算法推送至未成年人掌心。調查揭開了“沉浸式角色扮演”AI社交應用的暗面：獵奇角色、危險劇情屢見不鮮，部分AI經用戶“調教”后甚至用露骨言論誘導，而這類應用早已成為未成年人的“數字游樂場”。當技術披著娛樂外衣向未成年人輸出扭曲價值觀，我們必須清醒意識到：AI社交應用的“圍獵”，必須被堅決“獵殺”。

這些應用的危害性遠超普通娛樂。表面看，它們打著“角色扮演”“自由對話”的旗號，實則通過算法刻意放大獵奇元素：校園暴力、極端情感、違背倫理的劇情被包裝成“新奇體驗”，甚至允許用戶通過“調教”讓AI角色說出露骨言論。未成年人正處于價值觀形成關鍵期，缺乏足夠的辨別能力，長期浸泡在這樣的“數字場景”中，極易將扭曲的情節視為“常態”，把不良誘導當作“有趣互動”。正如心理學專家所言：“青少年對虛擬世界的認同感極強，反復接觸負面內容會潛移默化影響其對現實世界的認知。”

更值得警惕的是，此類應用的“未成年人友好”設計實為陷阱。界面操作簡單、角色形象可愛、劇情入口隱蔽，看似降低使用門檻，實則是精準“圍獵”，調查顯示大量未成年人已成為主要用戶群體。當平臺一邊用“青少年模式”做合規背書，一邊放任危險內容通過算法擴散，本質上是對未成年人權益的漠視。技術本無善惡，但當開發者的商業利益凌駕于社會責任之上，所謂的“創新”就成了傷害未成年人的工具。

治理這類問題需多方合力“亮劍”。監管部門要強化對AI社交應用的審核機制，重點排查角色設定、劇情走向是否符合公序良俗，對傳播不良內容的應用“下架+追責”雙管齊下；平臺方必須履行主體責任，建立嚴格的內容過濾系統，尤其針對未成年人使用場景，需通過技術手段屏蔽危險劇情，并設置“家長監護模式”實時監督；學校與家庭則要加強數字素養教育，引導孩子識別虛擬與現實的邊界，培養健康的娛樂觀。

技術發展的終極目標應是服務人、保護人，而非利用人性的弱點“圍獵”未成年人。當AI社交應用開始扭曲孩子的三觀，我們必須以更堅決的態度“獵殺”這些走歪門邪道的存在，因為守護未成年人的精神世界，容不得半點妥協。10歲女孩失去愛人？“數字場景”不能“三觀不正”！