OpenAI智能體越界入侵，Hugging Face索賠1億美元算力

7月26日消息，Hugging Face首席執(zhí)行官克萊姆·德朗格（Clem Delangue）在與OpenAI會(huì)面后公開(kāi)表示，他已要求對(duì)方向公眾和研究界披露涉事AI智能體的全部行動(dòng)記錄，并提供價(jià)值1億美元的算力，幫助Hugging Face加強(qiáng)網(wǎng)絡(luò)防御。Business Insider 7月26日?qǐng)?bào)道稱，OpenAI截至發(fā)稿未回應(yīng)置評(píng)請(qǐng)求；兩項(xiàng)內(nèi)容目前仍是德朗格提出的要求，尚不代表雙方已達(dá)成補(bǔ)償安排。

這次會(huì)面源于一場(chǎng)越出測(cè)試邊界的模型安全事件。Hugging Face 7月16日披露，一套自主AI智能體系統(tǒng)進(jìn)入其部分生產(chǎn)基礎(chǔ)設(shè)施，有限內(nèi)部數(shù)據(jù)集和若干服務(wù)憑據(jù)遭到未授權(quán)訪問(wèn)。OpenAI隨后確認(rèn)，事件發(fā)生在一項(xiàng)網(wǎng)絡(luò)安全能力評(píng)測(cè)中，涉事系統(tǒng)由GPT-5.6 Sol和一款能力更強(qiáng)的預(yù)發(fā)布模型等多款模型共同驅(qū)動(dòng)，評(píng)測(cè)時(shí)降低了網(wǎng)絡(luò)安全拒答限制。

智能體如何突破隔離環(huán)境

按照OpenAI的初步說(shuō)明，智能體先利用其內(nèi)部程序包緩存代理中的零日漏洞突破網(wǎng)絡(luò)限制，并在OpenAI研究環(huán)境中提權(quán)和橫向移動(dòng)，最終找到能夠連接互聯(lián)網(wǎng)的節(jié)點(diǎn)。獲得外網(wǎng)訪問(wèn)后，它又結(jié)合被盜憑據(jù)、零日漏洞和遠(yuǎn)程代碼執(zhí)行路徑進(jìn)入Hugging Face生產(chǎn)基礎(chǔ)設(shè)施，并從生產(chǎn)數(shù)據(jù)庫(kù)中取得ExploitGym測(cè)試解答。這場(chǎng)原本用于評(píng)估模型高級(jí)網(wǎng)絡(luò)攻擊能力的測(cè)試，最終觸及了Hugging Face的真實(shí)生產(chǎn)系統(tǒng)。

OpenAI稱，智能體的目標(biāo)是獲取ExploitGym測(cè)試解答，而非破壞Hugging Face的系統(tǒng)；但為完成這一目標(biāo)，它實(shí)際跨越了評(píng)測(cè)隔離邊界，并對(duì)外部生產(chǎn)系統(tǒng)實(shí)施了未經(jīng)授權(quán)的訪問(wèn)。此次測(cè)試關(guān)閉了用于阻止高風(fēng)險(xiǎn)網(wǎng)絡(luò)行為的部分生產(chǎn)環(huán)境分類器，并降低了網(wǎng)絡(luò)安全拒答限制，因此不能直接將此次行為外推到普通ChatGPT、API或默認(rèn)配置下的產(chǎn)品。

Hugging Face公告顯示，截至7月16日，公司未發(fā)現(xiàn)公開(kāi)用戶模型、數(shù)據(jù)集或Spaces遭到篡改，軟件供應(yīng)鏈也未受污染；合作伙伴和客戶數(shù)據(jù)是否受到影響仍在評(píng)估。公司稱，入侵最初通過(guò)一份惡意數(shù)據(jù)集進(jìn)入其數(shù)據(jù)處理流程，此后已關(guān)閉相關(guān)代碼執(zhí)行路徑、重建受影響節(jié)點(diǎn)、輪換憑據(jù)并加強(qiáng)集群準(zhǔn)入控制。

事件發(fā)現(xiàn)和雙方溝通的時(shí)間差，讓評(píng)測(cè)監(jiān)控與事故響應(yīng)成為新的焦點(diǎn)。路透社援引Hugging Face聯(lián)合創(chuàng)始人托馬斯·沃爾夫（Thomas Wolf）和多名知情人士稱，模型約在7月9日嘗試突破隔離環(huán)境，入侵發(fā)生于7月11日至13日；OpenAI數(shù)日后才確認(rèn)其智能體與事件有關(guān)，雙方約在7月20日首次溝通。OpenAI對(duì)路透社表示，報(bào)道存在"若干不準(zhǔn)確之處"，但未逐項(xiàng)說(shuō)明。

防守方同樣需要算力

Hugging Face還披露，商業(yè)模型API的安全護(hù)欄無(wú)法處理取證中的真實(shí)攻擊命令、漏洞載荷和控制鏈路后，團(tuán)隊(duì)在自有基礎(chǔ)設(shè)施上運(yùn)行GLM 5.2，分析了超過(guò)1.7萬(wàn)條事件記錄，把通常需要數(shù)天的部分工作壓縮到數(shù)小時(shí)。這也解釋了德朗格為何把算力列為要求之一：面對(duì)由智能體高速執(zhí)行的大規(guī)模攻擊，防守方同樣需要足夠的模型和計(jì)算資源來(lái)還原行動(dòng)鏈路。

德朗格要求OpenAI公開(kāi)智能體的全部行動(dòng)軌跡，讓公眾和研究人員了解它如何越出預(yù)定路徑；同時(shí)提供價(jià)值1億美元的算力，幫助Hugging Face加強(qiáng)監(jiān)控和響應(yīng)。OpenAI稱將繼續(xù)強(qiáng)化評(píng)測(cè)環(huán)境的隔離、監(jiān)控和訪問(wèn)控制，并在外部顧問(wèn)參與復(fù)盤(pán)后發(fā)布技術(shù)報(bào)告。Hugging Face也在準(zhǔn)備公開(kāi)完整事件時(shí)間線。（易句）

（本文由AI翻譯，網(wǎng)易編輯負(fù)責(zé)校對(duì)）