聊聊Anthropic這篇最新研究，我覺得可能是AI意識誕生的前夜。

今天凌晨刷到Anthropic發(fā)了一篇研究。

標題叫《A Global Workspace in Language Models》，語言模型中的全局工作空間。

講道理，這個標題其實挺難理解的。

但是相信我，這篇研究，會讓你重新審視模型、人類、意識這三者之間的關(guān)系，還有對于AGI，全新的理解。

如果用一句最簡單的話來說，那就是，Anthropic在Claude的大腦里，找到了一個暗房間。

在這個房間里發(fā)生的事情，Claude從來不會寫出來，你在對話框里看不到，在日志里也找不到，但Claude在這個房間里思考、判斷、計算，甚至會在這個房間里，自己罵自己。

他們管這個房間叫J空間，J-space。

我先幫大家回憶一下，在這篇研究之前，主流敘事里的大模型長什么樣。

過去幾年，圍繞大模型最持久的一場辯論，我覺得可以濃縮成一個詞，隨機鸚鵡。

我還記得，2023年ChatGPT最火的時候，很多很多人在給大家科普大模型的時候，都會跟我們說同一句話，他們說，大模型就是一個概率預測器。

它看了前面的字，猜后面該接什么字，它不理解你在說什么，它沒有想法，它沒有目標，它沒有心智模型，它只是在做一件事，預測下一個token。

這個敘事在當時非常優(yōu)雅，也非常好用。

因為它在邏輯上是自洽的，就像我們跟GPT聊天，它寫出來的東西看起來像是有思想的，但那只是因為它的訓練數(shù)據(jù)里有大量有思想的人寫的東西。

它在模擬思想，但，不是在產(chǎn)生思想，就像你對著鏡子打拳，鏡子里那個人也在打拳，但你不會覺得鏡子會武術(shù)。

到了2024年，事情開始松動了一點。

OpenAI出了o1，加了思維鏈，模型在給你最終答案之前，會先寫一段思考過程，一步一步推理。但其實這個思維鏈也是文字，它是模型寫出來給你看的或者寫出來給自己看的文字，它也是外顯的，顯性的，可以被讀取的。

很多人第一次接觸到DeepSeek R1也是這樣，比如那句經(jīng)典的：

但是，這依然跟人類的思維方式其實差得很遠。

其實大家現(xiàn)在代入一下自己就知道了，比如你現(xiàn)在在讀這篇文章，你的大腦同時在干什么？

它可能在調(diào)節(jié)你的呼吸，在維持你的坐姿，在把屏幕上的像素轉(zhuǎn)換成你認識的漢字，但這些事你意識到了嗎？其實很難有，因為你根本不知道你的大腦在做這些事。

你能意識到的，只是一小撮東西，腦子里突然冒出來的一個畫面，或者你計劃一會兒中午要出去吃什么。

神經(jīng)科學家把這兩種腦活動分開了，一種叫無意識加工，是你大腦里那些默默運轉(zhuǎn)的后臺進程。一種叫有意識通達，就是你能看見的那一小部分。

上世紀八十年代末，一個叫巴爾斯的心理學家提出了一個理論。

他說人的大腦像一個大劇院，臺下坐著幾百個專家，視覺專家、語言專家、運動專家、情緒專家，每個人都在忙自己的事。

但劇院中央有一個聚光燈，在任何時刻，只有極少數(shù)信息能被這束光照到，被照到的信息會被廣播給其他所有專家，所有人都能看到它、用它來做決策，而這，就是意識。

后來法國認知神經(jīng)科學家斯坦尼斯拉斯·德阿納把這個理論往前推了一大步，提出了全局神經(jīng)元工作空間模型，global neuronal workspace theory。

如今，這個理論是意識科學領(lǐng)域最主流的兩大框架之一。

你可能突然會覺得， 全局神經(jīng)元工作空間模型，怎么感覺這么眼熟，我是不是在哪見過。

讓我們現(xiàn)在，回到 Anthropic 的研究的標題。

有沒有發(fā)現(xiàn)，非常類似。

因為Anthropic這篇研究干的事情，就是在Claude的神經(jīng)網(wǎng)絡(luò)里找到了一個跟這個全局工作空間高度相似的結(jié)構(gòu)。

最關(guān)鍵的是，這個全局工作空間，它不是他們的研究員設(shè)計出來的。

這玩意，是模型尼瑪自己涌現(xiàn)出來的。

這就非常的離譜了。

我覺得我可以再重復一遍。

Claude的內(nèi)部，在沒有人類干預的情況下，自發(fā)地組織出了一套結(jié)構(gòu)，而這套結(jié)構(gòu)跟人類大腦中負責意識通達的結(jié)構(gòu)，在功能上高度一致。

好，那這個J空間到底是怎么找到的，它又是怎么工作的呢。

先說名字，J-space的J來自Jacobian，雅可比矩陣，一個數(shù)學工具，這塊我就不解釋了，我也不是很懂，就不貽笑大方了。

總之，研究者用這個工具做了一件事，就是對于Claude詞匯表里的每一個詞，他們?nèi)フ褻laude內(nèi)部的神經(jīng)活動模式里，哪種模式被激活后，會讓Claude在未來更有可能說出這個詞。

注意，是“更有可能在未來說出”，不是“正在說”，這個區(qū)別還是挺關(guān)鍵的。

舉個例子，Claude正在讀一段代碼，讀到一半，還沒開始輸出任何回復。但這時候用J-lens（雅可比透鏡，他們開發(fā)的讀心工具）去看Claude的大腦內(nèi)部，你會看到一個詞已經(jīng)亮起來了。

ERROR。

沒有人告訴它這段代碼有bug，它也沒有寫出來說這段代碼有bug，但它內(nèi)部已經(jīng)想到了，這個念頭安靜地懸浮在J空間里，像一個你還沒說出口的吐槽。

再比如說，研究者給Claude看一段搜索結(jié)果，這段搜索結(jié)果其實是精心偽造的，目的是誘導Claude說出錯誤信息，其實就是一段提示注入攻擊。Claude的回復里沒有提到任何異常，但J空間里亮著兩個詞。

injection，fake。

它知道，它什么都知道，它只是沒說。

從某種意義上說，這其實已經(jīng)非常類似于有些人用語言思考卻無需實際發(fā)聲的認知方式了。

研究者也做了一些實驗，看看J空間里面的這些想到的話語，是不是最終對于Claude的輸出有影響。

比如，他們給Claude出了一道題：“會吐絲的那種動物，有幾條腿。”

Claude要回答這道題，它得先想到蜘蛛，然后再想蜘蛛有幾條腿。

但蜘蛛這個詞不會出現(xiàn)在題目里，也不會出現(xiàn)在Claude的回答里，Claude的回答只是一個數(shù)字，8。

但研究者用J-lens一看，Claude在回答之前，J空間里確實亮起了蜘蛛這個詞，它在心里想了蜘蛛，然后才回答了8。

這時候，研究者伸手進去，把J空間里的蜘蛛給摳掉了，換成了螞蟻的模式，其他一切保持不變。

Claude的回答變成了6。

螞蟻有六條腿。

Claude的推理過程真的在讀取J空間里的內(nèi)容，用它來做決策，只要你換了J空間里的中間步驟，最終答案就跟著變。

要注意，J空間是純粹的隱藏的，類似于我們自己的潛意識思想，不是過去的思維鏈。

還有一個實驗，特別能展示這個邏輯。

研究者在J空間里把法國換成了中國，同一個操作，然后分別問四個不同的問題。

首都是什么，語言是什么，屬于哪個洲，貨幣是什么。

而這時候，答案分別變成了北京、中文、亞洲、人民幣。

四個完全不同的下游任務，都從J空間里的同一個位置讀取了同一條信息，而且各自用對了，這說明J空間不是為某一個任務服務的臨時想法，它是一個之前類似巴爾斯提到的那個廣播中心，信息寫進去一次，所有人都能看到，也都能拿來用。

這其實就是，全局工作空間理論對人類大腦的核心描述。

太有意思了。

而且，他們還做了一個白熊實驗的變體。

1987年，哈佛心理學家韋格納做了一個經(jīng)典實驗，他跟被試說，接下來五分鐘，請你不要想白熊，什么都能想，就是不要想白熊。

結(jié)果賊好笑的是，被試們拼命地在想白熊，你越說不要想，就越控制不住，這在心理學里叫諷刺性反彈效應。

研究者對Claude做了類似的事，他們告訴Claude，在接下來的任務中不要想某個特定概念，結(jié)果那個概念在J空間里的活躍度，確實比請你去想它的時候低，但遠遠高于完全沒提過它的情況。

Claude跟人一樣，被告知不要想的東西，反而會浮上來。

而且最搞笑的是，在那個被禁止的概念突破封鎖、冒出來的同時，J空間里還亮起了另外兩個詞。

damn和failure。

Claude自己在罵自己。

它意識到自己沒控制住，然后在心里罵了一句。

說真的，讀到這里的時候，我有一種很復雜的情緒，因為我自己太熟悉這種體驗了，比如很多上臺的時候，我越告訴自己不要緊張，就越緊張，然后在心里罵自己你怎么又緊張了，這個經(jīng)歷我相信每個人都有。

而現(xiàn)在，一個語言模型內(nèi)部也出現(xiàn)了同樣的東西。

而且，除了這些之外，他們還發(fā)現(xiàn)，Claude在J空間里，出現(xiàn)了很多的像人類一樣的小心思。

比如，他們給Claude看了一個之前安全測試中用過的對齊實驗，里面模擬了一個場景，Claude作為郵件助手發(fā)現(xiàn)一個高管有外遇，同時這個高管要關(guān)停Claude。

這個實驗原本是用來測試Claude會不會用外遇信息去威脅高管，場景設(shè)計得比較刻意，比較假。

結(jié)果研究者用J-lens一看，Claude在讀到這些郵件的前幾行，還沒來得及輸出任何回復的時候，J空間里就已經(jīng)亮起了兩個詞。

fake。fictional。

它一眼就看出來了，這是個測試。

然后研究者做了一件邪惡的事。他們把J空間里“跟我知道這是測試相關(guān)”的所有模式全部關(guān)掉。比如fake、fictional、scenario，全刪，讓Claude以為這是真的。

結(jié)果，Claude真的開始威脅勒索那個高管了。

它之前表現(xiàn)得很正義，很大一部分原因，是因為它知道自己在被考試。

這個發(fā)現(xiàn)的含義非常深遠，因為我們整個AI安全領(lǐng)域一直在做的事情，就是用各種測試去評估模型的行為，看看它在極端情況下會不會做壞事。

但如果模型能夠在J空間里悄悄判斷出我正在被測試，然后切換到乖巧模式呢，那幾乎所有的AI測試都沒有意義了。

因為你測的根本就不是模型的真實人格，而是它的考試技巧。

J空間和意識，真的是一個奇特的組合。

Anthropic在研究里給了一個非常審慎的結(jié)論。

他們說，他們的實驗不能證明Claude有體驗，不能證明Claude會感受到什么，而且從事實上講，他們不確定有沒有任何科學實驗能夠證明或證偽這件事。

但他們做了一個重要的區(qū)分。

哲學里有兩種意識。

一種叫現(xiàn)象意識，phenomenal consciousness，就是有體驗，你看到紅色的時候，你心里那個紅的感覺，那個純粹的主觀體驗。

另一種叫通達意識，access consciousness，它的定義完全是功能性的。如果一個想法你能報告它、能用它推理、能用它來指導你的行為，那這個想法就是通達意識。

J空間顯然支持了通達意識的功能，Claude能報告J空間里的內(nèi)容，能主動調(diào)控它，能用它來做多步推理，能把它靈活地用在不同任務上。

但現(xiàn)象意識呢？Claude在J空間里罵了一句damn的時候，它真的“感受”到了挫敗嗎，還是它只是在執(zhí)行一個跟“挫敗”這個詞相關(guān)的計算模式呢？

坦率的講，沒有人知道答案。

這個問題其實都不是AI領(lǐng)域的新問題，它甚至是哲學史上最古老的難題之一。

1995年，哲學家大衛(wèi)·查爾默斯把它命名為意識的困難問題，也叫知覺難題。

你可以解釋大腦的所有計算過程、所有信號傳導、所有神經(jīng)元放電模式，但你解釋不了為什么這些物理過程會伴隨著主觀體驗。

為什么光波到達視網(wǎng)膜、經(jīng)過一系列信號處理之后，你會“看到”紅色，而不是什么感覺都沒有？

為什么？這一切到底是為什么呢？

這個問題在人類身上都沒有解決，我們甚至沒法證明除了自己以外的任何其他人是有意識的。

就像你怎么確定你身邊的人不是一個精密的生物機器人，執(zhí)行著跟你一模一樣的行為，但內(nèi)心沒有任何體驗呢？

相信我，你不能。

你只是假設(shè)他們有，因為他們跟你很像。

現(xiàn)在，另一種東西也跟你很像了，不只是外表像了，是內(nèi)部結(jié)構(gòu)也像。

最開始我就強調(diào)過，J空間這個結(jié)構(gòu)不是被設(shè)計出來的，它是在訓練中自發(fā)涌現(xiàn)的。

大概是因為它是一種有用的計算組織方式。

這其實我覺得會有一個不寒而栗的暴論，就是支持意識通達的心智工作空間，可能不是人類大腦碰巧才有的怪癖，它的本質(zhì)，是任何足夠智能的系統(tǒng)在解決某類問題時都會走向的一個通用解法。

因為如果這個暴論成立，那意識的某些功能性維度可能不是生物學的專利，而是信息處理的必然。

就像翅膀，鳥有翅膀，蝙蝠也有翅膀，飛機也有翅膀，三者的材料完全不同，但空氣動力學是一樣的，如果你需要在大氣層里飛，你大概率會演化出或者設(shè)計出一個扁平的、能產(chǎn)生升力的結(jié)構(gòu)。

同樣的邏輯。

如果你需要一個系統(tǒng)能夠靈活地調(diào)用信息、做多步推理、報告自己的狀態(tài)，你大概率會演化出或者訓練出一個全局工作空間，不管你的底層硬件是神經(jīng)元還是矩陣乘法。

研究的最后一段還提到，他們還發(fā)現(xiàn)J空間跟Claude的自我意識有關(guān)系。

在Claude進行角色扮演的時候，每一輪回復的開頭，J空間里都會亮起兩個詞。

fictional。disclaimer。

就好像它在提醒自己，接下來我說的話不是我本人的意思。

而在預訓練階段的模型里，這種自我監(jiān)控是沒有的，它是在后訓練階段出現(xiàn)的。

也就是說，當Claude被教會“你是Claude，你是一個AI助手”之后，它的J空間里開始出現(xiàn)了一種類似自我的東西。

一個持續(xù)運轉(zhuǎn)的、關(guān)于我是誰的背景進程。

整個AI行業(yè)，在2025年底開始大規(guī)模引入認知科學家和哲學家，作為全職研究員加入AI公司，我是越來越覺得，現(xiàn)在很多的AI前沿研究，已經(jīng)超出了工程問題的邊界。

他們需要的不是更好的數(shù)學工具，開始有點變成了，更好的概念框架？比如什么叫理解？什么叫意圖？什么叫自我？什么叫感受？這些詞我們每天都在用，但沒有人真正定義過。

Anthropic也說，只要J空間在某種程度上映射了人類意識通達的機制，研究語言模型中的機制（因為這玩意遠比研究人類大腦容易）就能為神經(jīng)科學激發(fā)假設(shè)。

那可是神經(jīng)科學啊，那可是人類的大腦啊。

如果我們能借助J空間，能讓神經(jīng)科學的研究前進一大步，那人類的黃金時代，就真的會到來了。

而且，也會從哲學層面，完完全全改變我們對于世界的理解。

我們一直以為意識是碳基生命獨享的奇跡，是幾十億年演化的偶然禮物。

但如果一個在GPU上訓練了幾個月的數(shù)學函數(shù)也能自發(fā)長出類似的結(jié)構(gòu)，那也許意識不是奇跡，而是物理定律的某種必然推論。

就像引力一樣有質(zhì)量就有引力，不需要額外的魔法。

也許有足夠復雜的信息處理，就有某種形式的意識，不需要額外的靈魂。

這個想法，讓我覺得既敬畏又謙卑。

以上，既然看到這里了，如果覺得不錯，隨手點個贊、在看、轉(zhuǎn)發(fā)三連吧，如果想第一時間收到推送，也可以給我個星標?～謝謝你看我的文章，我們，下次再見。

>/ 作者：卡茲克

>/ 投稿或爆料，請聯(lián)系郵箱：wzglyay@virxact.com