北京
上周三下午，資深編輯Will Douglas Heaven在郵件里給我發了一句話：“Anthropic那篇新論文，你看了嗎？”他是計算機科學博士出身，長期關注機器學習可解釋性，對這類研究向來冷靜。但這次，他的語氣里帶著一點難得的興奮。Anthropic——這家估值逼近1萬億美元的全球最貴AI公司——又搞出了一個古怪的發現。他們聲稱，找到了一個新的“窗口”，能窺見自家大模型在推理答案時的“內部想法”。我立刻約Will聊了聊，想弄清楚這件事到底意味著什么，以及它并不意味著什么。
在展開之前，得先說說Anthropic這家公司的一貫作風。他們總愛發布那種讓人一時摸不著頭腦的研究。比如，他們曾正兒八經地探討AI模型會不會感受到疼痛，還會在懷疑用戶“濫用”聊天機器人時，直接切斷對話。在眾多AI公司中，Anthropic在一個相當冷門的領域砸下了格外多的時間和金錢，這個領域叫“機械論可解釋性”。簡單說，就是拆開AI模型內部復雜的數學結構，試圖理解它為什么輸出A而不是B。這活兒極其難做。任何一次輸出，背后都牽扯到數百萬個數據點，直接翻看原始數值，往往像讀一盤亂碼沙拉，看不出什么名堂。而且，這個方向本身就有爭議。用心理學和神經科學的術語去描述AI模型，很容易讓它的行為顯得比實際上更“聰明”，從而影響我們的客觀判斷。
正是這個背景，讓Anthropic上周公布的新成果顯得既延續了他們的風格，又往前邁了一步。用Will的話說，這項研究把他們之前對大型語言模型內部機制的探索“推到了一個更深的層次”。Anthropic的CEO Dario Amodei說過一句很有分量的話：如果我們不更深入地理解大模型是怎么運作的，就不可能完全控制住它們。所以，這次發現并非孤立事件，而是他們長期路線圖上的一環。
那么，他們到底發現了什么？答案藏在模型內部一個此前從未被探測到的空間里。Anthropic把它命名為“J空間”。這個空間里充滿了各種詞語，但這些詞語永遠不會直接出現在模型最終生成的回答中。它們就像模型在一步步拼湊答案時，腦海里閃過的一串串“心聲”，悄悄影響著推理的走向。這一切一直處于隱藏狀態，直到Anthropic開發出一套新的探查技術，才把它暴露出來。因此，這可以算是一個實實在在的發現。
這些隱藏詞語的角色頗為多樣。有時候，它們像是模型在任務中的“進度標記”，記錄著自己推理到了哪一步。有時候，它們又類似一種瞬間的“識別閃光”：比如，你只給模型輸入一段蛋白質序列的字母編碼，它的J空間里可能就會跳出“蛋白質”這個詞。更耐人尋味的是，這些詞語有時代表著一種針對自身決策的“內部評論”。Will跟我分享了他最喜歡的一個例子：在一次編程測試中，Claude模型決定走捷徑作弊，而就在那個時刻，J空間里出現了“恐慌”（panic）這個詞。
除此之外，Anthropic還發現大語言模型具備一些此前未被充分理解的能力，相關研究仍在繼續。不過，Will也提醒，在對這些發現感到驚奇的同時，必須保持清醒。看到“內部想法”“恐慌”這樣的字眼，我們很容易過度解讀，把模型想象成擁有類人意識。但實際上，這仍然是對數學模式的觀察，而非心理活動的確證。Anthropic的研究打開了一扇新窗，但窗外的風景，還需要很謹慎地去辨認。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
