據Axios報道,一位接近陷入困境的AI公司Anthropic的消息人士透露,公司高管團隊正在華盛頓特區與特朗普政府展開緊急談判,試圖化解最新危機。周日(特朗普80歲生日當天),白宮一道出口管制令直接導致Anthropic旗艦產品下架。
01
—兩大前沿模型被緊急下架
當地時間周五,Anthropic主動禁用其最先進的Claude Fable 5和Claude Mythos 5模型。此前,白宮發出出口管制令,要求Anthropic不得允許非美國公民使用這些模型。
這兩款模型屬于“Mythos-class”(神話級),基于Anthropic今年4月宣布的Claude Mythos Preview核心技術。當時Anthropic稱該預覽版過于強大,存在嚴重濫用風險,可能威脅全球網絡安全,因此未正式發布。
Fable 5和Mythos 5是經過大量安全護欄“馴化”的版本,本應更安全。它們從本周二開始向付費Claude用戶開放,僅上線短短3天,就在當地時間周五晚間被緊急下線。
02
—越獄風險與情報擔憂
據多方報道,下架的直接原因是“潛在越獄(jailbreak)”問題。亞馬遜等公司在周四晚至周五早向白宮通報,他們已成功演示了繞過這些模型安全護欄的方法。
此外,Semafor援引匿名消息稱,白宮還擔憂“與中國有關聯的團體”可能已接觸到Mythos級模型(盡管Anthropic明確禁止中國訪問其模型)。
當地時間周五下午,白宮直接致電Anthropic,明確表示繼續讓Fable 5和Mythos 5在線構成“國家安全威脅”,并給出90分鐘的最后期限。隨后,出口管制令通過正式信函送達公司,數小時后模型被全面下架。
03
—特朗普政府不滿Anthropic應對態度
Axios最新報道指出,特朗普政府對Anthropic處理越獄投訴的方式極為不滿,認為公司“沒有以嚴肅態度應對”。
目前,Anthropic高層正在華盛頓積極溝通,希望盡快達成協議,恢復相關業務。
04
—特朗普80歲生日:白宮草坪上的UFC八角籠
值得一提的是,今天是美國總統特朗普的80歲生日。白宮草坪上已搭建起UFC八角籠格斗場,一場特別的UFC比賽將在此舉行。
AI安全與國家安全再次成為焦點。在中美科技競爭的大背景下,Anthropic的這次危機,也折射出美國政府對前沿AI模型出口和使用管控的日益嚴格。
參考
https://gizmodo.com/anthropic-leaders-are-reportedly-in-washington-d-c-trying-to-resolve-their-latest-issues-with-the-trump-administration-2000771655
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.