只活了4天，這款頂級(jí)AI模型被特朗普叫停

“如此慘痛的教訓(xùn)過(guò)后，每一個(gè)國(guó)家都會(huì)開(kāi)始反思，自己的技術(shù)主權(quán)究竟在哪里。”

文 /巴九靈

OpenAI與Anthropic是美國(guó)AI界的雙子星，兩家公司在邁向萬(wàn)億美元估值的過(guò)程中，都上演了性質(zhì)不同的宮斗大戲。

OpenAI的宮斗，圍繞公司治理架構(gòu)、理念分歧，以及其與前聯(lián)合創(chuàng)始人馬斯克的長(zhǎng)久糾葛。而Anthropic的宮斗，其特點(diǎn)是超級(jí)硬核。今年上半年，它與特朗普政府直接展開(kāi)了兩次交鋒。

2月份，因技術(shù)使用邊界的分歧，美國(guó)國(guó)防部打破慣例，將Anthropic列入國(guó)家安全供應(yīng)鏈風(fēng)險(xiǎn)名單，這是美國(guó)歷史上第一家遭到該類(lèi)認(rèn)定的本土科技企業(yè)。

而在近日，雙方的沖突又迎來(lái)一個(gè)標(biāo)志性的節(jié)點(diǎn)。

美東時(shí)間6月9日，Anthropic發(fā)布了兩款基于同一套架構(gòu)的模型：Fable 5與Mythos 5。前者是經(jīng)過(guò)能力限制的閹割公開(kāi)版本，面向全社會(huì)用戶(hù)開(kāi)放，后者維持完整的功能形態(tài)，僅小范圍授權(quán)給合規(guī)合作機(jī)構(gòu)使用。

6月12日，美國(guó)政府突然以國(guó)家安全為由下達(dá)緊急出口管制指令，要求限制外籍人員訪問(wèn)這兩款模型。因?yàn)闊o(wú)法精準(zhǔn)區(qū)分用戶(hù)身份，Anthropic最終選擇全面關(guān)停兩款模型的全球訪問(wèn)權(quán)限。

圖源：Anthropic

這兩款承載著企業(yè)沖刺行業(yè)龍頭地位、推進(jìn)IPO進(jìn)程重任的核心產(chǎn)品，只亮相了4天，就這樣被強(qiáng)制勒令退場(chǎng)。

在全球范圍內(nèi)，這是有公開(kāi)報(bào)道以來(lái)，官方機(jī)構(gòu)第一次深度干預(yù)知名AI產(chǎn)品的發(fā)布與運(yùn)營(yíng)。這份行政指令事發(fā)突然，且語(yǔ)焉不詳，美國(guó)AI行業(yè)陷入震動(dòng)與憂(yōu)慮：這是就事論事的合理懲罰，還是故意找茬？AI監(jiān)管的標(biāo)準(zhǔn)該如何統(tǒng)一？行政干預(yù)的邊界在哪里？

Anthropic旗下模型的突然關(guān)停，致使全球眾多依賴(lài)該技術(shù)的政府與企業(yè)陷入被動(dòng)，英法日等美國(guó)盟友也未能幸免。不少業(yè)內(nèi)人士將此事視作一記警鐘，《經(jīng)濟(jì)學(xué)人》引述英國(guó)前安全大臣觀點(diǎn)：“如此慘痛的教訓(xùn)過(guò)后，每一個(gè)國(guó)家都會(huì)開(kāi)始反思，自己的技術(shù)主權(quán)究竟在哪里?！?/strong>

中國(guó)在AI領(lǐng)域已傾注了大量資源。此次事件，美國(guó)的出口管制措施，恐怕只會(huì)更加強(qiáng)化這個(gè)信念：核心技術(shù)必須掌握在自己手中。

通牒

觸發(fā)這一切的導(dǎo)火索，是亞馬遜的一份測(cè)試報(bào)告。

亞馬遜研究人員在測(cè)試Fable 5的過(guò)程中發(fā)現(xiàn)，通過(guò)一組特定的提示詞，可以讓模型提供它本不應(yīng)該提供的軟件漏洞信息，即所謂“越獄”。最壞的結(jié)果是，黑客可以直接用它入侵服務(wù)器、網(wǎng)站等網(wǎng)絡(luò)系統(tǒng)。

6月11日，亞馬遜CEO安迪·賈西親自就此向白宮官員表達(dá)了擔(dān)憂(yōu)。到目前為止，亞馬遜已經(jīng)向Anthropic投資了130億美元，是Anthropic重要的投資方與合作伙伴。

安迪·賈西

不過(guò)，科技界的高管一直與政府保持溝通，同步更新AI技術(shù)能力與潛在影響，亞馬遜的“遞刀子行為”，其實(shí)是響應(yīng)政府的安全征詢(xún)機(jī)制。但它迅速引起美國(guó)高層重視，事態(tài)開(kāi)始快速升級(jí)。

6月12日，白宮召集財(cái)政部長(zhǎng)、幕僚長(zhǎng)等核心官員召開(kāi)緊急會(huì)議，商議應(yīng)對(duì)方案。

一位白宮官員告訴媒體《Politico》，會(huì)議結(jié)束后，政府第一時(shí)間嘗試聯(lián)系A(chǔ)nthropic的CEO達(dá)里奧·阿莫代伊，卻被告知他正在參加身心靜養(yǎng)類(lèi)活動(dòng)，暫時(shí)無(wú)法對(duì)接工作。這一消息隨后被Anthropic官方否認(rèn)。據(jù)企業(yè)知情人士透露，中午接到溝通請(qǐng)求后，阿莫代伊在一小時(shí)十五分鐘內(nèi)便接入通話(huà)；在阿莫代伊無(wú)法接洽的時(shí)段，公司也安排其他高管代為對(duì)接溝通。

那日，阿莫代伊先后與6名政府高層展開(kāi)三輪通話(huà)。

阿莫代伊解釋稱(chēng)，此次漏洞影響范圍有限，不屬于能夠全面突破安全防線(xiàn)的嚴(yán)重越獄問(wèn)題。這類(lèi)技術(shù)瑕疵在整個(gè)AI行業(yè)都較為普遍。Anthropic還在后續(xù)通告中表示，團(tuán)隊(duì)從未發(fā)現(xiàn)可大范圍突破防護(hù)的漏洞，過(guò)度的安全限制甚至遭到用戶(hù)吐槽。

但官員并未接受這套說(shuō)辭，認(rèn)定風(fēng)險(xiǎn)真實(shí)存在，并要求Anthropic主動(dòng)下架模型、配合修復(fù)漏洞。阿莫代伊并未承諾下架產(chǎn)品，只要求對(duì)方提供完整技術(shù)細(xì)節(jié)與更多研判時(shí)間。財(cái)政部長(zhǎng)貝森特說(shuō)，阿莫代伊做出了錯(cuò)誤的選擇。

多輪溝通無(wú)果后，美國(guó)政府當(dāng)日決定實(shí)行出口管制，最終迫使Anthropic全面關(guān)停兩款模型，所有用戶(hù)均無(wú)法繼續(xù)訪問(wèn)。

Claude頁(yè)面顯示Fable 5“當(dāng)前不可用”

圖源：網(wǎng)絡(luò)

白宮方面表示，跟對(duì)方溝通數(shù)小時(shí)未果，最后才動(dòng)用出口管制作為手段。Anthropic對(duì)此提出異議，表示企業(yè)根本不存在自愿配合官方的余地。阿莫代伊說(shuō)：“白宮只給90分鐘限期下架模型，未說(shuō)明任何實(shí)質(zhì)風(fēng)險(xiǎn)細(xì)節(jié)。官方從未主動(dòng)協(xié)商、懇請(qǐng)合作，僅僅拋出一道限時(shí)指令?！?/p>

在政府出臺(tái)出口管制指令后，Anthropic稱(chēng)企業(yè)會(huì)遵守要求。但它非常不服氣，認(rèn)為該處置手段過(guò)重、有失公允。

Anthropic表示：“正如我們此前公開(kāi)表態(tài)的那樣，我們認(rèn)可政府有權(quán)叫停存在安全隱患的模型落地，但相關(guān)管控必須依托一套透明、公正、界定清晰、以技術(shù)事實(shí)為依據(jù)的法定流程。而本次行政舉措完全不符合上述準(zhǔn)則?！?/p>

恩怨

白宮的行事邏輯，令不少網(wǎng)絡(luò)安全專(zhuān)家感到疑惑。

多位網(wǎng)絡(luò)安全專(zhuān)家在核驗(yàn)亞馬遜測(cè)試報(bào)告后，均認(rèn)同Anthropic的說(shuō)辭。他們?cè)诮邮堋洞笪餮笤驴贰度A爾街日?qǐng)?bào)》等媒體的采訪中表示，模型的相關(guān)操作本就是網(wǎng)絡(luò)防御的正常功能，并不屬于高危“越獄”漏洞。

有業(yè)內(nèi)專(zhuān)家指出，OpenAI同級(jí)別模型具備完全一致的能力，卻未受到任何管控，明顯存在執(zhí)法尺度不一的問(wèn)題。這話(huà)的潛臺(tái)詞是，白宮在故意針對(duì)Anthropic。

多名網(wǎng)絡(luò)安全從業(yè)者、科技高管和風(fēng)投人士給白宮寫(xiě)了一封聯(lián)名信，認(rèn)為官方的禁令是小錯(cuò)重罰，對(duì)政府干預(yù)模型運(yùn)營(yíng)表達(dá)擔(dān)憂(yōu)，要求撤銷(xiāo)管制。他們認(rèn)為安全測(cè)試應(yīng)當(dāng)用來(lái)完善產(chǎn)品，而非一刀切封禁。聯(lián)名信首位簽署人、Facebook前安全負(fù)責(zé)人說(shuō)，Anthropic頂多算是一次超速違章，但官方卻判其死刑。

也有專(zhuān)家對(duì)此幸災(zāi)樂(lè)禍。

AI教父、圖靈獎(jiǎng)得主楊立昆一直對(duì)阿莫代伊的言論嗤之以鼻。

阿莫代伊曾警告AI可能導(dǎo)致大量白領(lǐng)失業(yè)，楊立昆嘲諷說(shuō)，大家應(yīng)該去聽(tīng)經(jīng)濟(jì)學(xué)家的專(zhuān)業(yè)意見(jiàn)，并指責(zé)對(duì)方“不懂經(jīng)濟(jì)學(xué)”“別信那個(gè)賣(mài)AI的人”?，F(xiàn)在Anthropic的產(chǎn)品關(guān)停，楊立昆說(shuō)這是阿莫代伊”自作自受”。

圖源：網(wǎng)絡(luò)

阿莫代伊在AI安全問(wèn)題上的強(qiáng)硬立場(chǎng)，在硅谷早已不是秘密。

他創(chuàng)立Anthropic的初衷之一，就是認(rèn)為前東家OpenAI對(duì)AI風(fēng)險(xiǎn)不夠重視，他甚至公開(kāi)將AI的某些能力類(lèi)比于核武器，長(zhǎng)期渲染AI的高風(fēng)險(xiǎn)，并呼吁高強(qiáng)度監(jiān)管。

就在新產(chǎn)品剛發(fā)布的次日，阿莫代伊還發(fā)文呼吁“建立力度更強(qiáng)、具備法律約束力的規(guī)范”。求錘得錘，官方很快就讓他品嘗到鐵拳的滋味。

圖源：網(wǎng)絡(luò)

根據(jù)《華盛頓郵報(bào)》的報(bào)道，官方?jīng)Q定敲打Anthropic，還有一個(gè)重要因素。

早在新模型發(fā)布的數(shù)周前，Anthropic未經(jīng)報(bào)備私自擴(kuò)充了Mythos模型的授權(quán)名單，在官方審批的111家機(jī)構(gòu)之外，額外向近50家主體開(kāi)放權(quán)限，并且遲遲未披露新增機(jī)構(gòu)信息。后續(xù)官方核查還發(fā)現(xiàn)，名單中包含美方懷疑的一家與中國(guó)有關(guān)的韓國(guó)電信企業(yè)，盡管Anthropic緊急撤銷(xiāo)了該企業(yè)的權(quán)限，但這一嚴(yán)重管理疏漏動(dòng)搖了白宮對(duì)其技術(shù)管控能力的信任。

阿莫代伊與特朗普政府的關(guān)系一直很緊張。

在特朗普和他的白宮盟友看來(lái)，Anthropic是一家失控的激進(jìn)左翼AI公司，阿莫代伊不斷渲染的技術(shù)毀滅論制造恐慌，是一種阻礙美國(guó)創(chuàng)新自由的作秀行為。公司還招攬多名前總統(tǒng)拜登政府官員，在AI政策上，阿莫代伊也與主張放松監(jiān)管的特朗普政府立場(chǎng)相悖。

今年年初，雙方矛盾爆發(fā)。美國(guó)國(guó)防部希望在不受限制的情況下將Anthropic的技術(shù)用于“任何合法目的”，但阿莫代伊堅(jiān)持要求在合同中寫(xiě)入明確的限制條款：禁止將AI用于大規(guī)模國(guó)內(nèi)監(jiān)控和完全自主武器系統(tǒng)。談判破裂，國(guó)防部史無(wú)前例地將Anthropic認(rèn)定為“供應(yīng)鏈安全風(fēng)險(xiǎn)”，將其逐出國(guó)防部系統(tǒng)。目前Anthropic已提起訴訟，案件仍在審理中。

不少行業(yè)分析人士認(rèn)為，白宮對(duì)Anthropic一貫的負(fù)面觀感，在一定程度上助推了此次模型管制落地；但白宮官員予以否認(rèn)，強(qiáng)調(diào)模型管控純粹出于安全隱患考量，國(guó)防部并未深度參與本次決策流程。但國(guó)防部長(zhǎng)近日很開(kāi)心，他在社交平臺(tái)上發(fā)帖說(shuō)，自己早在三個(gè)月前就將Anthropic逐出五角大樓合作體系，“每一天發(fā)生的事，都印證我當(dāng)初的決定無(wú)比正確?！?/p>

模糊

自上周五管控落地后，Anthropic團(tuán)隊(duì)就一直與白宮展開(kāi)磋商，試圖找到可行的解禁方案。據(jù)相關(guān)人士透露，官方準(zhǔn)許模型開(kāi)放的前提條件是，Anthropic必須徹底解決各類(lèi)安全隱患。

還有人猜測(cè)，特朗普此番出手限制Anthropic，預(yù)示著白宮AI政策的轉(zhuǎn)變。

特朗普二度執(zhí)掌白宮之后，高舉的科技政策大旗是松綁監(jiān)管、放任自由。他多次公開(kāi)嘲諷拜登政府出臺(tái)的AI管控政策，認(rèn)為這類(lèi)規(guī)則束縛行業(yè)。上臺(tái)伊始，他便全盤(pán)廢除拜登政府搭建的AI監(jiān)管框架體系，同時(shí)調(diào)整芯片出口相關(guān)條款，降低了部分門(mén)檻。

就在6月初，特朗普政府剛剛頒布了一項(xiàng)全新的AI行政令，在自愿的前提下，要求AI公司在發(fā)布模型產(chǎn)品的前30天向政府開(kāi)放訪問(wèn)權(quán)限，以便對(duì)其安全漏洞進(jìn)行審查。該政令脫胎于5月擱置的舊草案，舊版最長(zhǎng)審查周期為90天，因特朗普擔(dān)心阻礙產(chǎn)業(yè)發(fā)展與對(duì)華競(jìng)爭(zhēng)而暫緩，最終審查期限縮短至一個(gè)月。

美國(guó)白宮網(wǎng)站2日公布的行政令

白宮的兩股勢(shì)力正在拉扯，一方呼吁強(qiáng)化模型監(jiān)管，另一方追求無(wú)約束的AI產(chǎn)業(yè)發(fā)展。在國(guó)會(huì)無(wú)法出臺(tái)統(tǒng)一AI立法、中美競(jìng)爭(zhēng)加劇、民眾普遍擔(dān)憂(yōu)AI安全風(fēng)險(xiǎn)的背景下，特朗普此次悄然簽署的政令，也是其政策微調(diào)的一種信號(hào)：他既要考慮AI發(fā)展，也要回應(yīng)民眾對(duì)技術(shù)風(fēng)險(xiǎn)的焦慮情緒。

一些分析師認(rèn)為，雖然行政令表面上強(qiáng)調(diào)合作和自愿原則，但它賦予了官方對(duì)AI模型的核查權(quán)力，加之政府參股AI企業(yè)的相關(guān)傳聞絡(luò)繹不絕，足以說(shuō)明當(dāng)局強(qiáng)化管控的意圖。

白宮官方則宣稱(chēng)，所有干預(yù)動(dòng)作僅圍繞安全風(fēng)險(xiǎn)展開(kāi)，鼓勵(lì)技術(shù)創(chuàng)新的政策不會(huì)變。白宮的AI顧問(wèn)還在社交平臺(tái)表態(tài)，針對(duì)Anthropic的限制屬于無(wú)奈之舉。

《華盛頓郵報(bào)》稱(chēng)，限制Anthropic的事件標(biāo)志著特朗普政府AI治理策略的強(qiáng)硬升級(jí)，與其此前一貫主張的輕監(jiān)管路線(xiàn)形成鮮明反差。白宮一道命令就讓產(chǎn)品下架，或許會(huì)為監(jiān)管AI提供一個(gè)先例?！洞笪餮笤驴氛Z(yǔ)帶諷刺地評(píng)論：“毫不夸張地說(shuō)，在當(dāng)前這種政府隨時(shí)可能徹底推翻從業(yè)者全部規(guī)劃的環(huán)境下，研發(fā)產(chǎn)品、投資AI企業(yè)，或是單純借助AI提升生產(chǎn)效率，都充滿(mǎn)巨大風(fēng)險(xiǎn)?！?/p>

《經(jīng)濟(jì)學(xué)人》則從地緣政治視角展開(kāi)分析，美方此次處置再度令全球盟友倍感錯(cuò)愕。多國(guó)耗費(fèi)數(shù)月溝通協(xié)調(diào)，只為政務(wù)、金融、醫(yī)療等核心公共領(lǐng)域接入Mythos 模型；英法投入數(shù)十億美元搭建配套體系，推進(jìn)AI本土化落地；日本內(nèi)閣府還上線(xiàn)依托該模型研判情報(bào)數(shù)據(jù)的試點(diǎn)項(xiàng)目，如今各國(guó)布局均陷入停滯。

還有一個(gè)問(wèn)題，Anthropic之后，OpenAI是否會(huì)成為下一個(gè)受害者？

事實(shí)上，監(jiān)管重壓早已落到OpenAI頭上。就在這個(gè)6月，佛羅里達(dá)州率先對(duì)OpenAI提起刑事訴訟，CEO奧特曼被列為案件被告；6月12日，就在Anthropic收到禁令的當(dāng)天，全美多個(gè)州的總檢察長(zhǎng)同步下發(fā)聯(lián)合傳票，全面調(diào)取OpenAI企業(yè)數(shù)據(jù)處理、未成年人保護(hù)、底層模型研發(fā)等內(nèi)部資料。

在Anthropic、OpenAI沖刺IPO的關(guān)鍵階段，一張監(jiān)管的大網(wǎng)正越收越緊。

作者|馬淚淚|責(zé)任編輯|何夢(mèng)飛

主編|何夢(mèng)飛|圖源|VCG、網(wǎng)絡(luò)