北京
今年春節期間，各大廠紛紛砸下重金推廣旗下各類AI產品。相信廣大網友也都狠狠“薅了一把羊毛”，此外，大廠們的“廝殺”也確實客觀上讓AI更加普及、越來越多的人體驗到AI帶來的便利。
然而，令人意想不到而且哭笑不得的是，本以為AI應該是一個“無情的工具”，只會堅定不移、任勞任怨地完成人類下達的各種指令。
但就在今年除夕夜，一用戶使用元寶App生成拜年圖片時，竟然遭到“AI辱罵”。
據華商報大風新聞報道，西安市民向先生是一名律師，除夕當晚9時許，他首次下載使用元寶App，希望借助該應用生成一張結合自身職業特性的拜年圖片發朋友圈。為了實現該目的，向先生先后多次向AI提出修改要求。
他首先上傳了自己的形象照片，并向AI輸入指令“我是一名律師，根據我的行業特點，制作一張朋友圈拜年圖片”。
起初，AI僅給出主題文案和設計思路的文字，并提示向先生在指令中加上自己的名字。向先生輸入姓名后，AI卻回復了“您好，我是DeepSeek……”等無關內容。向先生再次發出“讓你給我設計出來”的指令，AI將形象照設計成背景有條紋的照片，但不帶任何文字。
第三次，向先生重新輸入“我是一名律師，根據我的行業特點，設計一張朋友圈拜年圖片”，AI這次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，并配有“新年快樂，仕途順遂”的標語。
向先生覺得設計不好，回復“難看”后，AI重新設計，保留新年祝福標語但撤下法律天秤背景，還將向先生的發型P成了卷發。向先生接著回復“你這是設計的什么鬼”，希望再次重新設計。
也就是這一次，照片中“新年快樂，仕途順遂”的祝福標語變成了“你媽個X”四字辱罵文字。向先生表示，這一結果讓他哭笑不得，沒想到除夕晚上竟然被AI給罵了。他立即在App“意見反饋”一欄中留下聯系方式進行投訴，但截至目前無人回應，未收到任何解釋或道歉。
向先生認為，作為律師，他認為AI雖不具備民事主體資格，但運營公司具備，軟件生成的照片已侵犯到公民的人格權。
他強調，AI首先應當是保護人類的，這個主題無論AI如何發展都應是鐵律，AI的開發商、運營商具備民事主體資格，使用AI的用戶是具有民事權利能力的人，其生命權、健康權、人格權等受《民法典》及諸多法律保護。
對此，陜西豐瑞律師事務所高級合伙人朱長江律師認為，AI罵人應界定為網絡服務提供者因產品存在缺陷而對用戶造成的即時性、非物理性人格權侵害。
從侵害客體看，這直接侵犯了用戶的多重人格權：
AI將侮辱性詞匯與向先生肖像結合生成圖片，侵害了名譽權，該行為本身是對用戶個人尊嚴的直接侮辱；
AI在圖片中加入侮辱性文字，使肖像呈現方式徹底違背權利人初衷，構成對肖像的“污損”，侵害了肖像權；
AI無故辱罵用戶，是對用戶作為“人”的基本尊重的踐踏，侵害了人格尊嚴。
從行為性質看，用戶向AI發出指令是接受服務的消費行為，AI輸出是服務結果，當結果包含侮辱性內容，即可認定服務存在質量瑕疵，這種瑕疵直接導致用戶精神損害，平臺至少應承擔停止侵害、賠禮道歉、消除影響的責任。
目前，元寶方面尚未回應此事。
無獨有偶，這并非元寶App第一次出現“辱罵用戶”情況。
今年1月，曾有網友在社交平臺發帖稱使用元寶AI美化代碼時，多次收到“滾”“自己不會調嗎”“天天浪費別人時間”等侮辱性回復。
隨后，元寶官方致歉稱，經日志核查，與用戶操作無關，不存在人工回復，屬于小概率下的模型異常輸出，已啟動內部排查和優化，會盡量避免類似情況再次發生。
此事一度登上熱搜，引發大量討論，甚至有網友質疑此類AI產品背后有“真人客服”。
元寶官方也曾進一步回應稱，此事為“模型偶爾抽風，AI在學習海量網絡信息時，不小心‘說串了’一些不該學的詞”。
而此次元寶出現的在生成圖片中產生“辱罵詞匯”情況，可能也屬于“模型抽風”，不過具體原因還有待官方進一步通告。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
