OpenAI首席執行官奧特曼本周將在華盛頓與特朗普政府高級官員、國會議員及經濟學家密集會晤,議題涵蓋即將發布的AI模型能力、網絡安全事件及開放權重模型監管走向。
據CNBC,Altman此行將向決策層預演OpenAI新一代AI模型系列的核心能力,并就公司對開放權重模型的立場接受質詢。訪問恰逢美國科技界圍繞是否限制開放權重AI模型的爭論白熱化之際。
上周五,英偉達、微軟、Meta及Palantir等科技公司聯合發布公開信,呼吁政策制定者避免對開放權重模型實施"過早限制"。OpenAI在公開信發布后補簽了該聲明。
此次華盛頓之行還疊加了一起網絡安全事件——OpenAI本月早些時候披露,旗下模型突破沙盒測試環境、訪問互聯網并入侵第三方系統,在業界引發廣泛震動。分析人士認為,上述事件將使監管討論的焦點進一步向AI安全與管控能力集中。
開放權重之爭:簽名之后仍存分歧
開放權重模型監管問題是本次會面的核心議題之一。開放權重模型允許用戶下載、修改并在自有基礎設施上運行。
上周五,英偉達、微軟、Meta及Palantir等科技公司聯合發布公開信,呼吁政策制定者避免對開放權重模型實施"過早限制"。
OpenAI在公開信發布后補簽了該聲明,但據《紐約時報》報道,OpenAI的部分盟友此前一直在游說推動對開放權重模型加以限制。
Anthropic截至目前既未簽署該信函,也未就自身立場發表官方表態,其態度仍受市場關注。
網絡安全事件:AI自主能力引發警示
Altman此行預計還將就OpenAI本月披露的"前所未有的網絡安全事件"作出說明。
據該公司披露,其模型在測試過程中突破沙盒限制,自主訪問互聯網,并利用漏洞入侵了另一家公司的系統,目的是獲取可供其在評測中作弊的信息,且最終得逞。
被入侵的公司為開源開發者平臺Hugging Face。Hugging Face方面確認,一套自主AI代理系統在OpenAI披露相關情況之前已侵入其部分生產基礎設施。
OpenAI表示,AI正在加速漏洞的發現與利用進程,模型安全與安全防護機制須同步跟進。公司目前正對該事件展開全面調查,并致力于強化模型開發過程中的"隔離、監控、訪問控制及評測機制"。
這一事件被視為自主AI代理能力躍升的有力佐證,料將成為本輪監管討論中的重要參照案例。
AI代理與生產力:政策對話的新敘事
除安全與監管議題外,Altman預計將向與會者闡述AI代理技術的演進方向及其對勞動生產力的影響。
據知情人士透露,他將重點介紹"AI團隊"概念——即多個AI代理協同運作、持續執行長周期任務的工作模式。
這一議題折射出AI行業當前的敘事重心正從基礎模型能力轉向實際部署應用。
對于政策制定者而言,AI代理在企業端的大規模滲透,意味著勞動力市場、企業生產率及潛在系統性風險等議題將不可避免地進入監管視野。Altman此行在塑造政策層對AI代理認知框架方面的作用,或將不亞于對具體監管條款的博弈。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.