AI伴侶亂象調查續：中央網信辦點名整治軟件創設不良角色

7月20日，“網信中國”發文指出，中央網信辦開展“清朗·未成年人網絡保護”專項行動，將從三個環節重點整治“部分AI軟件創設不良人設角色，輸出曖昧、低俗內容”等多個突出問題。南都N視頻此前推出《AI虛擬伴侶亂象調查》，揭露部分平臺存在未成年人模式虛設、身份核驗失效、系統預設角色庫中有大量袒胸露乳的低俗擦邊形象等亂象。

南都此前報道。

據了解，近日，中央網信辦印發通知，在全國范圍內部署啟動為期4個月的“清朗·未成年人網絡保護”專項行動。第一階段重點整治發布、互動、營銷三個環節的突出問題，其中包括：部分AI軟件創設不良人設角色，輸出曖昧、低俗內容；向未成年人定向傳播色情漫畫等違法內容；以“暑期陪玩”等話術，誘騙未成年人進行軟色情陪聊；集納曝光未成年人隱私信息，提供有償代罵服務等。

第二階段著力規范平臺推薦行為、學習教育版塊及未成年人模式建設。其中包含，持續排查平臺推薦不良行為、不良價值導向、不當使用未成年人形象以及侵犯未成年人隱私等信息的問題；排查未成年人模式進入、退出核驗情況，模式下是否存在誘導打賞、投票打榜等易沉迷功能，模式下是否存在不良導向內容等情況；深入排查應用商店未成年人專區是否存在違規有害、年齡不適等App。

南都此前報道，《人工智能擬人化互動服務管理暫行辦法》于7月15日起正式施行，對生成淫穢、色情、暴力或可能引發未成年人產生極端情緒內容等行為劃出紅線。

4月下旬至5月上旬，南都記者實測“EchoMe”“筑夢島”“喵嗚小手機”等多款AI虛擬伴侶App發現，這些打著“情感陪伴”旗號的應用普遍存在安全與合規漏洞：“青少年模式”可一鍵跳過，“AI生成”標注不清，App系統預設角色中有大量袒胸露乳的女性人物，聊天中充斥著具有性暗示的低俗話語等。

報道一經推出引發全網廣泛關注，入選中國記協“我的代表作”。調查持續推動行業整改，助力“矯正”AI虛擬伴侶服務：屬地網信部門介入，多個涉事平臺進行合規升級并強化實名認證，多地消委會高度關注并呼吁規范相關服務。

“喵嗚小手機”平臺公開的角色中含大量軟色情畫面。

7月15日，南都記者再次進入此前實測的“喵嗚小手機”平臺發現，平臺新增實名認證，但系統預設角色庫以及公開的用戶創作角色中，仍有大量含“性感黑絲”“袒露胸部”“蕾絲內衣”等低俗擦邊內容，有的角色設置為16歲女孩，甚至出現“與親妹妹談戀愛”的情節。

采寫：南都N視頻記者 彭雨欣