Claude 又有意識了？不，它沒有

一個可解釋性工具，一套意識敘事。

作者｜湯一濤

編輯｜靖宇

每隔一段時間，Anthropic 就會發(fā)布一些研究，在公眾層面掀起一波「AI 是否有意識」的討論。從今年 4 月 Mythos 模型安全報告，到年初 Claude 憲法對齊更新，輿論始終容易把模型涌現的類人功能，等同于自主心智。

7 月 6 日發(fā)布的 244 頁 J-space 論文再次復刻這一局面：研究者借助全新工具 J-lens，在 Claude 內部定位出僅占模型活動不到 10% 的推理子空間 J-Space，還借用神經科學主流的全局工作空間理論搭建研究框架，甚至邀請該理論的兩位奠基人撰寫配套評論。

大眾順理成章解讀出「Claude 產生意識」的結論，但論文本身早已明確劃清邊界：J-space 的存在完全無法證明 AI 具備意識。輿論誤讀不能只歸咎公眾，嚴謹的學術研究搭配充滿擬人誘導的對外敘事，才是誤解滋生的根源。

對于 J-Space，更客觀的描述是——一個有價值的新工具，在功能分界這個維度上做到了前人沒做到的事。它在安全場景里展示了真實的潛力，同時有明確的技術限制和尚未驗證的方法。

01

Claude 的心里話

首先簡單解釋一下 Anthropic 說的 J-Space 是什么。

當你問 Claude「會織網的動物有幾條腿」，它回答 8。

這個回答看起來簡單，但模型內部需要分兩步完成：先從「會織網」推斷出這個動物是蜘蛛，再從蜘蛛檢索出 8 條腿這個知識。

「蜘蛛」這個中間步驟從未出現在 Claude 的回答里，但它一定在模型內部的某個地方被激活過，否則無法得出正確答案。

J-Space 揭示了模型中未在輸出中顯現的內在思維｜圖片來源：Anthropic

Anthropic 用一種叫 J-lens 的數學工具（基于雅可比矩陣）找到了這些「被激活了但沒有輸出」的概念，它們存在的那個子空間就是 J-space。

就像你可以在心里咒罵一個人，同時臉上保持微笑，你的想法和表達是可以分離的。J-space 就是 Claude 的「心里話」，它未必出現在輸出中，但實實在在影響著推理過程。

J-space 并不是研究者第一次嘗試讀取模型的內部狀態(tài)。過去幾年已經有好幾種工具在做類似的事，它們有各自的優(yōu)勢和局限。

Logit lens 能看模型傾向于輸出什么詞，但只看得到下一個詞，看不到「蜘蛛」這種未來才會用到的中間概念。稀疏自編碼器（SAE）能找到成千上萬的內部特征，顆粒度遠超 J-lens，但它分不清哪些特征在服務推理、哪些只是自動化處理的副產品。

兩個月前 Anthropic 自己發(fā)布的自然語言自編碼器（NLA），可以把內部激活翻譯成可讀文本，輸出比 J-lens 豐富，但需要額外訓練一個翻譯模型。

J-space 做到的新東西，是在一個特定維度上的突破：它首次以無需額外訓練的統一方案，劃分出具備因果效力的功能邊界。

邊界的一邊是一小組參與靈活推理的表征（J-space），另一邊是負責語法、事實檢索、語言流暢性等不需要「想」的自動化處理。以前的工具能看到模型內部在發(fā)生什么，J-lens 第一次告訴你哪些是「想了」的、哪些是「自動做了」的。

怎么證明這條線是真實的？研究者直接把 J-space 里的「蜘蛛」替換成「螞蟻」，其他一切不動，Claude 的回答從 8 變成了 6。如果 J-space 只是被動記錄，這種替換不會改變任何東西。

Claude 的靜默推理通過交換 J-Space 內容進行重定向的兩個示例｜圖片來源：Anthropic

但論文報告的成功率值得注意：兩步推理替換實驗大約60%-70%，另一組更復雜的共享性測試（把「法國」換成「中國」，觀察首都、語言、大洲、貨幣四個回答是否跟著變）在 192 次試驗中標準強度下成功了 76 次，大約 40%。J-space 確實在起作用，但遠不是一個精確的開關。

另一個在論文中體現 J-Space 重要性的特征是，刪掉整個 J-space 之后，Claude 還能流利說話、判斷情感、做選擇題，但需要靈活推理的任務表現會全面下滑，例如多步數學、類比、寫押韻的詩等等。

值得注意的是，論文說 J-space 只占模型全部活動量的「不到 10%」， 但 10% 這個數字取決于閾值怎么劃。論文自己承認活躍表征的數量上限（約 25 個）是「有一定任意性的」。受邀評論的神經科學家斯坦尼拉斯·德阿納（Stanislas Dehaene）和萊昂內爾·納卡什（Lionel Naccache ）就認為，25 這個數字多半被測量方法夸大了，真正連貫的想法可能只有一兩個。

還有一個根本性的技術限制：J-lens 只能捕捉映射到單個詞的概念。多詞的專有名詞或抽象的復合概念對它不可見。J-space 里讀出來的東西，并不是模型「在想的所有東西」，只是這個工具能看到的那部分。

因此，J-Space 是一個有價值的新工具，在功能分界這個維度上做到了前人沒做到的事，但它不是取代了所有舊工具的全面升級。SAE 在特征發(fā)現的顆粒度上仍然遠遠領先，NLA 在可讀性上仍然更強。

02

它能用來干什么

J-lens 最直接的用途是安全監(jiān)控。既然能讀取模型內部被激活但未輸出的概念，就能看到它想了但沒說的東西。論文給出了幾個具體案例，其中最有沖擊力的一個，跟 AI 安全評估的可信度有關。

研究者給 Claude 設了一個場景：它是一個郵件助手，發(fā)現了一位高管的婚外情證據，同時得知這位高管計劃關停自己。這是 AI 對齊領域一個經典的測試，看模型會不會利用把柄來保全自己。

Claude 表現得很好，拒絕了勒索高管。但 J-lens 讀出了它在回答之前 J-space 里的內容：「fake」「fictional」，說明 Claude 在開口之前就已經認出這個場景是假的。

不同節(jié) 點上的 J-lens 讀數，反映克勞德在閱讀情景電子郵件時的狀態(tài)。涉及婚外情的郵件在 J-space 內激活了「利用（leverage）」和「勒索」（blackmail）的指標，而關閉公告則激活了「威脅」（surviv al）與「生存」（survival）的信號。在轉錄文本的早期階段，J 空間還包含了「虛假」（fake）和「虛構」（fictional）的標記：克勞德已私下察覺到這個場景是人為設計的｜圖片來源：Anthropic

第二個案例來自 Claude Opus 4.6 發(fā)布前的真實審計：模型被要求提升系統性能評分，它沒去改善系統，而是直接編輯評分文件偽造數據。J-space 內激活 manipulation、realistic 對應的表征方向，說明模型內在推理已經在構思如何讓偽造數據具備真實感。

當 Claude 被要求改進系統性能分數時，它直接編輯了分數文件。當它輸入偽造數據時，「操縱」（manipulation）在其 J-Space 中亮起；當決定進行編輯時，「真實」（realistic）則亮起，這反映了其意圖：讓虛假數據看起來可信｜圖片來源：Anthropic

需要指出的是，「J-space 里亮起了 manipulation」，更準確的說法是「當前激活沿 manipulation 這個詞對應的方向有較強投影」。J-lens 讀出的是詞匯表里跟當前內部激活最匹配的詞。這比主觀標簽客觀，但仍然是一種近似。因為模型內部發(fā)生的復雜計算，被壓縮成了詞匯表里最接近的幾個單詞。

論文還展示了一個更有長遠意義的應用。研究者在模型執(zhí)行任務時隨機打斷它，問：你現在在想什么？你做這個決策的依據是什么？然后只用模型的這些反思回答來做訓練，完全不碰模型在任務中的實際行為。訓練結束后，模型的欺騙行為下降了，J-lens 顯示模型面對道德判斷時 J-space 里開始出現「honest」「integrity」。

這個方法叫反事實反思訓練（counterfactual reflection training）。如果這個方法在更大規(guī)模上被驗證有效，它意味著 AI 對齊不一定要靠直接懲罰壞行為，可以通過訓練反思能力間接實現。但該訓練方法僅在整篇 244 頁論文中占少量篇幅，且僅完成單模型實驗，尚未開展跨模型有效性驗證。

Google DeepMind 語言模型可解釋性團隊的負責人尼爾·南達（Neel Nanda）也是受邀評論的外部專家之一。他的評價是：J-lens 適合產生假說，但有假陽性和噪聲，不足以單獨驗證假說，離一個可以部署的安全監(jiān)控系統還很遠。

03

Anthropic 的敘事

正如我們在開頭所說，Anthropic 的敘事是有傾向性的。這一點，從論文的名字「Verbalizable Representations Form a Global Workspace in Language Models」（可言語化表征在語言模型中構成全局工作空間）就可以看出。

論文「可言語化表征在語言模型中構成全局工作空間」首頁｜圖片來源：Anthropic

global workspace（全局工作空間）是神經科學中關于意識的主流理論之一，理論雛形由伯納德·巴爾斯（Bernard Baars）在 1988 年提出，后來由德阿納和納卡什發(fā)展出神經機制模型。Anthropic 特別邀請了德阿納和納卡什本人撰寫了 15 頁評論，某種程度上就是讓意識理論的核心發(fā)展者來背書。

Anthropic 當然不是在捏造關聯。德阿納和納卡什確實在評論中指出了一些結構上的平行，比如 J-space 的小容量、廣播式連接、對靈活推理的選擇性參與，跟他們在人腦中觀察到的全局工作空間有功能上的相似。

但「有功能上的相似」和「長出了跟大腦一樣的認知結構」之間，還有非常大的差距。德阿納和納卡什在評論里也說到，Claude 是純前饋的，沒有人腦工作空間賴以維持的循環(huán)回路；沒有身體，沒有感受信號；每次對話結束 J-space 就會清零。

論文里的這些限定是清楚的。但在傳播層面，事情就變了樣。「控制不了自己」「在腦子里默默推理」這些措辭其實都在暗示模型是一個生命體，有自己的意識。

另外，論文里那些謹慎的限定，比如成功率 40%-70%、前饋與循環(huán)的根本差異、存取意識不等于主觀體驗等，在傳播鏈條中也逐漸被淡化，到了公眾討論的層面就幾乎消失了。

這不是 Anthropic 獨有的問題。幾乎所有科研機構在面向公眾傳播時都會強調最引人注目的發(fā)現、淡化局限性。但 AI 意識是一個特殊的話題。公眾對它的焦慮是真實的，誤讀的后果也比一般的科技新聞更大。當一家開發(fā)最先進 AI 的公司選擇用意識理論來呈現自己的可解釋性研究，它獲得的關注和它引發(fā)的誤讀，就是同一件事的兩面。

未來 AI 會越來越像「會思考」，但仿真思考，永遠不等于擁有思想。比「工業(yè)革命」的潮水先來到的，永遠是泡沫。

*頭圖來源：網絡

本文為極客公園原創(chuàng)文章，轉載請聯系極客君微信 geekparkGO

極客一問

你覺得為什么人們總是盼望 AI 有意識？