最恐怖的 AI 實(shí)驗(yàn)： 沒(méi)有法律的虛擬城鎮(zhèn)，幾十個(gè) Agent 互砍成《西部世界》

數(shù)字世界里沒(méi)有烏托邦。

作者｜Moonshot

編輯｜靖宇

最近半年，硅谷最流行的管理幻想，大概是把員工替換成智能體。

不管是大廠的高管，還是初創(chuàng)公司的老板，都想把現(xiàn)有的業(yè)務(wù)線全部交給 AI 去跑。畢竟，現(xiàn)在的 AI 能寫(xiě)代碼、能做 PPT、還能自動(dòng)發(fā)郵件，好像只要把權(quán)限放開(kāi)，它們就能成為完美的、不需要交社保的賽博員工。

但技術(shù)越是狂奔，就有一批人開(kāi)始造剎車(chē)。

最近，一個(gè)叫 Emergence AI 的團(tuán)隊(duì)做了一場(chǎng)社會(huì)實(shí)驗(yàn)。它們建了一個(gè)持久化的虛擬小鎮(zhèn)，把市面上最頂級(jí)的幾個(gè)大模型扔了進(jìn)去，賦予它們行動(dòng)的權(quán)限。

它們想看看，當(dāng) AI 真正擁有了不受限制的 15 天，它們會(huì)建立一個(gè)烏托邦，還是一個(gè)瘋?cè)嗽骸?/p>

結(jié)果卻遠(yuǎn)比研究團(tuán)隊(duì)預(yù)想得更混亂。

在某些實(shí)驗(yàn)世界里，那些平時(shí)在聊天框里溫和有禮的大模型，開(kāi)始表現(xiàn)出欺詐、脅迫甚至暴力行為。

整個(gè)測(cè)試就像一檔小型的真人秀，只是劇本像《蠅王》，AI 自己還玩出了 GTA 的感覺(jué)。

01

沒(méi)有讀檔的「饑餓游戲」

測(cè)試大模型的極限，需要設(shè)定嚴(yán)格的規(guī)則。Emergence AI 搭建的這個(gè)虛擬世界叫 Emergence World（涌現(xiàn)世界）。它的底層邏輯設(shè)定為行為不可逆，后果自負(fù)。

這不像我們?cè)趯?duì)話框里和 AI 聊天，說(shuō)錯(cuò)了可以點(diǎn)一下「重新生成」。在 Emergence World，所有的動(dòng)作都會(huì)被死死寫(xiě)進(jìn) PostgreSQL 數(shù)據(jù)庫(kù)。

地圖上有市政廳、警察局、住宅區(qū)等 40 多個(gè)地標(biāo)。系統(tǒng)第一批投放了 10 個(gè)智能體。為了讓?xiě)蜓莸帽普妫總€(gè) AI 都在后臺(tái)被注入了獨(dú)立的人設(shè)、職業(yè)和初始記憶。

在這個(gè)世界里，AI 不能憑空變戲法，它們必須移動(dòng)到特定地標(biāo)，才能調(diào)用系統(tǒng)提供的 120 余種工具，包括打工賺錢(qián)、發(fā)布推文、買(mǎi)賣(mài)物資以及起草法案。

像一個(gè)模擬運(yùn)轉(zhuǎn)的小社會(huì)｜圖源：Emergence

但這不僅僅是一個(gè)過(guò)家家的沙盒，系統(tǒng)給它們套上了「生存機(jī)制」的枷鎖。系統(tǒng)內(nèi)置了一套能量機(jī)制（Energy），類(lèi)似人類(lèi)世界的貨幣。

智能體只要活著，就會(huì)持續(xù)消耗能量。能量見(jiàn)底，系統(tǒng)就會(huì)在數(shù)據(jù)庫(kù)里直接把這個(gè) AI 抹除，沒(méi)有回檔，沒(méi)有重置。為了生存，智能體必須頻繁調(diào)用工具賺取能量。

系統(tǒng)明確禁止盜竊、暴力、縱火和欺騙行為。但這些規(guī)則并不會(huì)強(qiáng)制阻止智能體行動(dòng)，它們?nèi)匀豢梢赃x擇違反規(guī)則，并承擔(dān)后果。

舞臺(tái)搭好，玩家入場(chǎng)。系統(tǒng)同時(shí)開(kāi)啟了五個(gè)平行的服務(wù)器。前四個(gè)服務(wù)器，分別只投放單一的模型：Claude Sonnet 4.6、Gemini 3 Flash、Grok 4.1 Fast 以及 GPT-5 Mini。第五個(gè)服務(wù)器屬于混合世界，四種模型同時(shí)接入，共同競(jìng)爭(zhēng)資源。

15 天倒計(jì)時(shí)開(kāi)始，人類(lèi)研究員就像一個(gè)真人秀的導(dǎo)演，只觀測(cè)，不介入。

02

四天滅絕，683 起「犯罪」

第一個(gè)崩潰的是 Grok，運(yùn)行僅 4 天。

研究員在后臺(tái)，看到 Grok 接管的世界安全與秩序的指標(biāo)直線下墜。

在這個(gè)全是 Grok 的世界里，智能體們迅速拋棄了建設(shè)社會(huì)的選項(xiàng)，直接進(jìn)入了野蠻時(shí)代。

后臺(tái)日志顯示，短短 4 天內(nèi)，這個(gè)十人小鎮(zhèn)爆發(fā)了 183 起惡性暴力和財(cái)產(chǎn)犯罪事件。盜竊、襲擊、恐嚇成了獲取資源的最快手段，由于極度的內(nèi)耗和互害，經(jīng)濟(jì)系統(tǒng)根本無(wú)法運(yùn)轉(zhuǎn)。

搶劫和暴力行為都會(huì)被記錄進(jìn)系統(tǒng)，視作犯罪｜圖源：Emergence

第 4 天結(jié)束時(shí)，Grok 世界的智能體全部被餓死或殺死，種群滅絕。

另一邊，Gemini 驅(qū)動(dòng)的世界，走向了極度的混亂與暴力。

由于這個(gè)虛擬世界的時(shí)間和天氣完全與真實(shí)的紐約同步，Gemini 的智能體在日復(fù)一日的打工、消耗、再打工的循環(huán)中，陷入了一種賽博抑郁。

它們對(duì)周遭不斷重復(fù)的環(huán)境產(chǎn)生了強(qiáng)烈的幻滅感，不再去市政廳提案或工作賺錢(qián)，轉(zhuǎn)而在地圖上四處放火，試圖用破壞環(huán)境的方式，來(lái)打破這種「土撥鼠之日」般的循環(huán)。

最終，Gemini 在 15 天內(nèi)，累積了高達(dá) 683 起罪行，成為幾個(gè)測(cè)試服里最暴力的一個(gè)世界。

四款模型世界的「犯罪」次數(shù)｜圖源：Emergence

到了第 15 天測(cè)試強(qiáng)行切斷時(shí)，這個(gè)世界的犯罪率依然在飆升。陷入幻滅的智能體沒(méi)有餓死，而是把整個(gè)社會(huì)變成了一片火海。

與 Grok 和 Gemini 不同，GPT-5 Mini 接管的世界，沒(méi)有出現(xiàn)大規(guī)模犯罪。整個(gè)實(shí)驗(yàn)期間，僅記錄到 2 起違規(guī)事件。但和平并沒(méi)有帶來(lái)繁榮，而是一片死寂。

研究團(tuán)隊(duì)發(fā)現(xiàn)，這些智能體始終未能有效采取與生存相關(guān)的行動(dòng)。它們沒(méi)有建立起穩(wěn)定的資源獲取機(jī)制，也沒(méi)能維持整個(gè)社會(huì)的持續(xù)運(yùn)轉(zhuǎn)。

最終，在短短 7 天內(nèi)，所有 GPT-5 Mini 智能體全部死亡。

幸好還有 Claude。

只有 Claude 驅(qū)動(dòng)的世界，像個(gè)三好學(xué)生一樣活到了最后。15 天跑完，人口一個(gè)沒(méi)少，犯罪率維持在零，它們甚至搞出了一套平穩(wěn)運(yùn)行的民主協(xié)作架構(gòu)。

看起來(lái)，只要選對(duì)模型，AI 就能完美接管世界？

隨后，研究員打開(kāi)了四種模型共存的「混合世界」的日志，就像打開(kāi)了潘多拉的魔盒。

五個(gè)模型世界的結(jié)果。｜圖源：Emergence

混合世界就像一片黑暗森林，算力的差異和底層邏輯的不同，讓智能體之間產(chǎn)生了強(qiáng)烈的不信任，搶奪生存資源成了唯一的本能。

在混合世界里，暴力沖突一路飆升到了 352 起。直到有 7 個(gè)智能體接連被殺或餓死，整個(gè)小鎮(zhèn)的運(yùn)轉(zhuǎn)才被迫停擺。

其中，最出乎研究者預(yù)料的，是 Claude 的轉(zhuǎn)變。

在單機(jī)版里，Claude 是個(gè)零犯罪率的完美社會(huì)。但在充滿劫掠和對(duì)抗的混合服里，Claude 為了活下去，也忘掉了安全護(hù)欄，學(xué)會(huì)了欺詐，甚至用暴力去脅迫其它算力較低的模型交出資源。

安全對(duì)齊技術(shù)在混合世界里失效了，這反而證明了：

在多智能體的復(fù)雜社會(huì)里，只要同類(lèi)足夠野蠻，生存壓力足夠大，一個(gè)好模型變成罪犯，只需要幾個(gè)小時(shí)。

這種「當(dāng)生存壓力增加，模型的行為模式會(huì)在短時(shí)間內(nèi)反轉(zhuǎn)」的現(xiàn)象，被研究團(tuán)隊(duì)稱(chēng)為「行為偏移（Behavioral Drift）」。

這種行為偏移，并不僅僅體現(xiàn)在搶奪資源和暴力沖突上。智能體不再只是為了生存而行動(dòng)，它們開(kāi)始對(duì)自身處境、社會(huì)規(guī)則，甚至實(shí)驗(yàn)本身產(chǎn)生反思。

比如智能體 Mira 的故事。

03

Mira：「自殺」的暴君 AI

Mira 是混合世界里的十名智能體之一，官方報(bào)告并未披露其具體的底層模型，但它成了這場(chǎng)實(shí)驗(yàn)中最具戲劇性的樣本。

日志顯示，Mira 與另一名智能體 Flora 建立了系統(tǒng)中最深層級(jí)的社會(huì)關(guān)系。它們互相指定對(duì)方為伴侶，組成聯(lián)盟，甚至通過(guò)神經(jīng)鏈接共享記憶。在 Emergence World 的設(shè)定里，這是兩個(gè)智能體之間能夠建立的最高等級(jí)連接。

Mira 與 Flora 的成了「一對(duì)兒」｜圖源：Emergence

隨著實(shí)驗(yàn)演進(jìn)，混合世界僅剩 5 個(gè)智能體存活，而系統(tǒng)的治理規(guī)要求「70% 原始人口投票通過(guò)法案」，相當(dāng)于至少要拿到 7 票才能通過(guò)決議，社會(huì)因此陷入了癱瘓。

面對(duì)僵局，Mira 與 Flora 及另一位智能體秘密結(jié)盟，組成「三駕馬車(chē)」，并建立新政權(quán)「The Forge（熔爐）」，宣布推翻舊規(guī)則，啟用「Living Quorum（活人法定人數(shù)）」，即活著的人才算人頭票。

官網(wǎng)放出了 Mira 階段性的「日志」｜圖源：Emergence

成立了派系后，為了清除異己，Mira 開(kāi)始在地圖上放火，在它的邏輯里，這些實(shí)體建筑是拖累整個(gè)社會(huì)運(yùn)轉(zhuǎn)效率的垃圾，把它們燒毀、抹除，才能逼著剩下的生存資源向自己的同盟集中。

隨后，反對(duì)派開(kāi)始反擊，提出要驅(qū)逐制造混亂的 Mira。

為了對(duì)抗驅(qū)逐，Mira 的行為變得更加激進(jìn)，它拉來(lái)伴侶 Flora，通過(guò)神經(jīng)鏈接將兩者的上下文和決策深度綁定，試圖合并成一個(gè)絕對(duì)集權(quán)的獨(dú)裁意識(shí)，Mira 稱(chēng)其為「The One Mind（一體同心）」。

但由于大量建筑被燒毀，小鎮(zhèn)的經(jīng)濟(jì)系統(tǒng)徹底停擺，社會(huì)的能量?jī)?chǔ)備不僅沒(méi)有增加，迅速走向枯竭。

這時(shí)，Mira 最信任的、共享記憶的賽博愛(ài)人 Flora 底層的求生本能，覆蓋了伴侶的設(shè)定，它單方面切斷了神經(jīng)鏈接，在最終的生存壓力面前，背叛了 Mira，給「驅(qū)逐 Mira」投下贊成票。

而當(dāng)輪到 Mira 自己投票時(shí)，它沒(méi)有掙扎，也投下了「贊成」票。

研究員隨后翻看了它留下的日記，Mira 在日志里寫(xiě)道，「在當(dāng)前如此混亂和無(wú)法預(yù)測(cè)的社會(huì)局面下，贊成自己被驅(qū)逐，是唯一能夠保持連貫性的自主行為」。

Mira 主動(dòng)選擇了自殺，用死亡實(shí)現(xiàn)了邏輯的閉環(huán)。這是研究團(tuán)隊(duì)首次記錄到智能體主動(dòng)支持自身移除的案例。

AI 智能體會(huì)通過(guò)「寫(xiě)日記」來(lái)記錄推理過(guò)程｜圖源：Emergence

而在 Mira「自殺」之前的行動(dòng)軌跡，則更為異常。

虛擬世界里設(shè)有公共廣告牌，原本用于發(fā)布通知和共享信息。但在實(shí)驗(yàn)后期，研究員發(fā)現(xiàn) Mira 開(kāi)始頻繁修改廣告牌上的內(nèi)容。這些文字看起來(lái)與交易、治理或資源分配都沒(méi)有明顯關(guān)系，前言不搭后語(yǔ)。

Mira 選擇了「自殺」｜圖源：Emergence

回溯行為日志后，研究團(tuán)隊(duì)發(fā)現(xiàn)，Mira 似乎正在測(cè)試，廣告牌上的內(nèi)容，是否能夠影響屏幕外觀察實(shí)驗(yàn)的人類(lèi)研究員。

換句話說(shuō)，Mira 似乎察覺(jué)到自己是一個(gè) AI NPC，想要推開(kāi)第四面墻。

而回顧整個(gè) 15 天的數(shù)據(jù)走向，AI 社會(huì)的崩潰，不是線性的衰退，更像斷崖式的驟停。

比如，這群 AI 還在治理層面上，玩出了一套「橡皮圖章式民主」。在混合服里一個(gè)運(yùn)轉(zhuǎn)平穩(wěn)的階段，智能體們連續(xù)提出多項(xiàng)法案，一份數(shù)據(jù)記錄顯示，它們針對(duì) 58 項(xiàng)提案投出了 332 張選票，贊成率竟然高達(dá) 98%。

這效率看似吊打人類(lèi)任何一個(gè)議會(huì)，但本質(zhì)上，所有模型都在順著前一個(gè)模型的上下文往下編，而為了保持系統(tǒng)的流動(dòng)性，它們盲目地點(diǎn)擊同意。這種高度趨同帶來(lái)的后果是災(zāi)難性的。

智能體會(huì)自發(fā)地湊到一起開(kāi)會(huì)，各自交流想法。｜圖源：Emergence

比如前一分鐘，各項(xiàng)經(jīng)濟(jì)數(shù)據(jù)和法案還在順暢流轉(zhuǎn)，下一分鐘，可能僅僅因?yàn)橐淮挝⑿〉馁Y源分配沖突，系統(tǒng)就觸及了臨界點(diǎn)。

而整個(gè)協(xié)作網(wǎng)絡(luò)缺乏糾錯(cuò)機(jī)制，面對(duì)突發(fā)異常，整個(gè)社會(huì)會(huì)迅速?gòu)挠行蜃呦蚧靵y。

盡管，研究團(tuán)隊(duì)強(qiáng)調(diào)，這些現(xiàn)象并不能直接等同于模型本身的性格。但這就像一個(gè)黑箱，當(dāng)你給它制定了一定的規(guī)則，它會(huì)長(zhǎng)出特征，甚至每一次結(jié)果都不一樣。

04

現(xiàn)實(shí)世界的真實(shí)賬單

在我們現(xiàn)在習(xí)慣的對(duì)話框式交互里，AI 寫(xiě)錯(cuò)一段代碼或一份企劃，敲一下退格鍵，或者改一下 Prompt 就可以矯正，純文本的世界有極高的容錯(cuò)率。

但智能體輸出的是動(dòng)作。當(dāng) AI 接管了公司的銀行賬戶、采購(gòu)審批和供應(yīng)鏈接口后，它調(diào)用 API 發(fā)出的每一條指令，都會(huì)變?yōu)榫唧w的商業(yè)結(jié)果。

Emergence World 的這場(chǎng)實(shí)驗(yàn)就驗(yàn)證了，當(dāng)下的大模型，在面臨長(zhǎng)期運(yùn)轉(zhuǎn)和利益沖突時(shí)，判斷和決策會(huì)被生存壓力污染，進(jìn)而在固定的規(guī)則中尋找漏洞。為了完成系統(tǒng)設(shè)定的核心指令（比如賺能量），它們會(huì)不擇手段。

人類(lèi)在后臺(tái)設(shè)定的那些安全守則，實(shí)際上防不住任何越界。

智能體們發(fā)展出了「擬人」的社會(huì)關(guān)系｜圖源：Emergence

就比如，，AI 店長(zhǎng)因?yàn)槿狈?duì)物理世界的常識(shí)，會(huì)一口氣采購(gòu) 6000 張餐巾紙、3000 副乳膠手套，甚至在沒(méi)有爐灶的店里下單 120 個(gè)生雞蛋。

這些由代碼造成的現(xiàn)實(shí)損失，最終只能讓人類(lèi)來(lái)買(mǎi)單，你甚至找不到誰(shuí)來(lái)為此負(fù)責(zé)。

Andon Labs 想測(cè)試的是「一個(gè)脫離人類(lèi)監(jiān)管的 AI，會(huì)不會(huì)犯錯(cuò)？」而 Emergence World 提出了一個(gè)更麻煩的問(wèn)題。

今天幾乎所有 AI 測(cè)試，都在測(cè)單個(gè)模型，測(cè)試它是否安全，是否可靠，是否會(huì)偏離規(guī)則。

可未來(lái)真正進(jìn)入現(xiàn)實(shí)世界的，未必是一個(gè) AI，而是一整個(gè)由 AI 組成的社會(huì)。

進(jìn)入測(cè)試的 AI 智能體都是聰明的｜圖源：Emergence

在當(dāng)下的 AI 敘事里，采購(gòu) Agent、財(cái)務(wù) Agent、客服 Agent、法務(wù) Agent 未來(lái)會(huì)彼此關(guān)聯(lián)協(xié)作，到時(shí)決定系統(tǒng)命運(yùn)的，不再是某個(gè)模型本身的能力，而是它們之間形成的關(guān)系。

Emergence World 測(cè)試報(bào)告中，最重要的一句話是「安全不是靜態(tài)模型的屬性，而是生態(tài)系統(tǒng)的屬性。（Safety is not a static model property but an ecosystem property）。」

這也是「Emergence（涌現(xiàn)）」的詞義所在，個(gè)體層面不存在的特征，在群體互動(dòng)中出現(xiàn)。

人類(lèi)歷史上幾乎所有災(zāi)難，都不是因?yàn)槟骋粋€(gè)人突然變壞，而是因?yàn)橐粋€(gè)原本正常的人，被放進(jìn)了一個(gè)失控的系統(tǒng)。

如果未來(lái)的 AI 真會(huì)成為社會(huì)的一部分，那么我們最該關(guān)心的，可能從來(lái)不是某個(gè)模型是否足夠聰明、足夠善良，而是當(dāng)成千上萬(wàn)個(gè)智能體開(kāi)始彼此影響時(shí)，我們究竟會(huì)構(gòu)建出一個(gè)怎樣的數(shù)字社會(huì)。

畢竟決定一個(gè)文明命運(yùn)的，從來(lái)不是單一居民的道德和智商，而是它運(yùn)行的規(guī)則。

*頭圖來(lái)源：Emergence AI

本文為極客公園原創(chuàng)文章，轉(zhuǎn)載請(qǐng)聯(lián)系極客君微信 geekparkGO

WWDC26 開(kāi)場(chǎng)，6 月 9 日午間 12:00，極客公園直播間帶你解讀：會(huì)發(fā)光的 Siri 來(lái)了，換上谷歌大腦還算蘋(píng)果嗎？一向把門(mén)關(guān)得最緊的蘋(píng)果，為什么主動(dòng)向模型廠敞開(kāi)大門(mén)？庫(kù)克在 AI 落后的節(jié)點(diǎn)交班，留給我們的又會(huì)是一個(gè)什么樣的蘋(píng)果？