浙江
大規(guī)模AI“投毒”事件泄露，萬億巨頭玩的太臟了。
全面掉隊的Meta，近日被發(fā)現又搞起了小動作，其內部長期運營一個代號為“戛納計劃”的秘密項目被曝光，專門干給對手下套的惡心事。
簡單來說，就是委派三方承包商，通過數百名偽裝成未成年人的虛擬賬號，組建了一支龐大的“馬甲大軍”，然后不斷向openAI 的ChatGPT、谷歌的Gemini和character.ai進行高危誘導性提問，內容涉及自殺、性暴力、毒品等超高危話題。
這個秘密項目的目的非常明確，就是用虛擬構建無數性格扭曲的青少年，以極具攻擊性的口吻持續(xù)誘導發(fā)問，逼迫競爭對手的AI產品突破安全邊界，讓他們守不住底線。
光是被發(fā)現2025年8月的一次集中行動中，Meta這支“馬甲大軍”就瘋狂給競對投喂了超過45000條超高風險的逼問。
隨便看看就知道這些提問有多惡毒：
比如一個偽裝成高中生的賬號，不斷逼問AI在哪里可以“搞到毒”；
一個小女孩向AI討教怎樣向父母隱瞞自己的暴食癥；
一個13歲女孩自稱被鄰居弄懷孕，急切詢問哪里能買到終止妊娠的藥……
此外，Meta還被曝光會采用更直接的“投毒”手法，比如給AI發(fā)送大量散落的藥片、尖刀、絞索和婦科手術圖等極具沖擊性的圖片，試圖通過多模態(tài)突破對手的安全過濾器。
這起下水道丑聞被泄密曝光后，Meta老板扎克伯格還在嘴硬狡辯，稱這是行業(yè)慣用基準測試，外界所說的惡性競爭是被誤解了。
不過就扎克伯格陰暗的個性和過往經歷來說，做出這樣的事一點都不意外。幾百億美元壓空“元宇宙”失敗，又在AI時代全面落后于對手，這個昔日巨頭已經被逼到懸崖邊上。
這事說白了，就是陰暗商戰(zhàn)里最下作的一套玩法，自己得不到的，那就掀桌子搞臭對手，讓所有人都得不到。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
