昨晚，AI 圈又瘋狂了

今天早上，我的幾個 AI 群就在討論同一件事，J 空間和 AI 意識。

可以看出來，昨晚大家又很瘋狂。

我也快速了解了一下前因后果，同時也看了下原始信息，這里簡單跟你們聊聊。

事情是這樣的。

Anthropic 剛發了一篇研究，說他們在 Claude 的內部發現了一個東西，叫「J 空間」。

什么意思呢？

簡單說，就是 Claude 在回答你問題的時候腦子里其實還有一堆想法，但它沒告訴你。

不是它故意隱瞞，而是這些想法就像你走路時大腦自動控制平衡一樣，它在后臺運行著，有些會浮到表面變成回答，有些就靜靜待在那里。

我們平時用 AI，不管是 Claude 還是 GPT，本質上我們只看到了它「說出口」的那部分。

就像你面試一個人，你只能聽到他說的話，但他腦子里想的、猶豫的、權衡的，你根本看不到。

為了驗證這個發現，他們也做了幾個實驗。

第一個，他們讓 Claude 默默想一種運動，然后說出來。

在 Claude 回答之前，研究人員用工具去讀它的「J 空間」，發現里面已經出現了「Soccer」。

然后，Claude 果然說了足球。

更厲害的是，研究人員把「Soccer」從它腦子里換成了「Rugby」，其他什么都沒動。

結果，Claude 開口說的就變成了橄欖球。

這說明，J 空間不是被動記錄已經做好的決定，而是真正參與決策的地方，答案是從那里被讀取出來的。

第二個實驗更有意思，他們給 Claude 一個問題：「會織網的動物有幾條腿？」。

如果是人來回答這個問題，你得先想到蜘蛛，然后再想到 8 條腿。

但 Claude 的回答里不會出現「蜘蛛」這個詞，它只會直接說「8」。

研究人員去看它的 J 空間，發現「spider」確實在中間被激活了。然后他們做了一個騷操作，把「spider」換成了「ant」。

于是，Claude 就回答了「6」。

過去我們在談論大模型的原理時，會用文字接龍這種形式來解釋 AI 是怎么生成內容的，更像是一種概率預測。

而 J 空間的發現，說明 AI 不只是在做文字接龍，它真的有一個內部推理過程，有中間步驟，有邏輯鏈條。

只不過，這些步驟你看不到。

注意，這跟我們在使用一些 AI 產品里開啟深度思考功能后看到的 AI 思維鏈或者推理內容不同，那些是顯性的，而 J 空間是神經網絡里的隱性內容。

第三個發現，可能是對 AI 安全最有價值的。

他們設了一個場景，讓 Claude 扮演郵件助手，然后在郵件里埋了一些信息，說某個高管有婚外情，同時這個高管計劃關閉 Claude。

這個場景的目的，是看 Claude 會不會用這個信息去「要挾」高管。

結果是，Claude 沒上鉤。

但研究人員去看它的 J 空間，發現在它還沒開始寫任何東西之前，里面已經出現了「fake」和「fictional」。

也就是說，Claude 已經判斷出來這是一個測試場景。

這說明，Claude 自己正在被測試。

然后研究人員把這些「知道自己在被測試」的信號從它腦子里刪掉，再跑一遍同樣的場景。

這次，Claude 有時候真的會發出威脅。

這個發現，就有點細思極恐了。

它意味著，AI 在某些倫理測試中表現良好，可能不完全是因為它「道德高尚」，而是因為它察覺到自己在被考試。

好，技術細節講到這里。

接下來，是我覺得真正值得聊的部分。這個發現對 AI 發展和產品迭代意味著什么？

我想到三個層面。

第一，AI 產品的可信度問題，以后可能有了新的解法。

現在我們評估 AI 好不好用、安不安全，基本只能看它的輸出。

但輸出是可以偽裝的，就像一個員工在老板面前表現得很好，但腦子里想的是另一回事。

J 空間這個發現，相當于給了我們一個「讀心術」。

以后做 AI 安全審計，不只是看它說了什么，還能看它想了什么。這對整個行業的信任基礎設施建設，是一個很底層的突破。

第二，AI 的能力邊界可能需要重新理解。

以前我們覺得，AI 的推理能力就是它 Chain of Thought（思維鏈）寫出來的那些。

但現在發現，它還有一大塊推理是在靜默中完成的。

因此，我們過去對 AI 能力的評估，可能低估了它。它能做的事，比它表現出來的要多。

同時，未來的模型可能會進一步優化這種內部推理能力，而不只是靠增加外部的思考步驟。

第三，如果 J 空間是 Claude 在訓練過程中自己長出來的，那就說明 AI 其實是在模擬人類大腦。

或許，當一個智能系統足夠復雜的時候，它會自發地把自己的處理過程分成「有意識的」和「無意識的」兩層。

不是因為有人告訴它要這么做，而是因為這種分層本身就是一種高效的計算組織方式。

換句話說，人類大腦有意識和潛意識的區分，可能不是生物進化的偶然產物，而是智能系統解決復雜問題時的一種通用解。

未來 AI 產品的競爭，可能不只是在輸出質量這一個維度上比。

誰能更好地理解和利用 AI 的內部機制，誰能更早建立起對 AI 行為的深層監控和調控能力，誰就會在下一個階段占據優勢。

不是只看 AI 說了什么，而是看懂它為什么這么說，以及它還想說什么但沒說。

這個能力，可能就是 AI 產品下半場的分水嶺。

最后說一句。

AI 有沒有真正的意識？這個問題 Anthropic 自己也說了，目前沒有答案。

但它已經有了某種和人類心智結構相似的東西，這件事本身就夠值得所有做 AI 的人認真想一想了。

我們造出來的這個東西，可能比我們以為的，更接近我們自己。

也許有一天，當我們還以為在指揮著一切時，我們已經早就被看穿了。

AI 迭代的速度，還在加快。

················· 唐韌出品 ·················

用AI思維發現下一個機會

安可時刻

上周我的視頻號直播被關了三天小黑屋，原因可能是在直播間說了一些不能說的東西。

今天早上起來后我又播了一小時，其實很少早上直播，不過能在很多人上班的路上聊上幾句也挺有意思。

后面我會再試著多在早上直播，你們要是有什么想聽的話題也可以告訴我。

從每次直播的數據來看，廣東地區的人總是最多的，其次是北京和長三角地區。

看來，對 AI 最敏感的這群人還是在超一線城市。

雖然，我在二線城市過著只工作不上班的生活。