四川
有時候，人還是知道得越少越好。
哪怕你對人工智能不感興趣，看到今天刷爆AI圈的事兒，也會后背發涼：人類，剛剛成功發明了針對 AI 的“讀心術”。
過去，AI 在我們眼里就是一個“高級復讀機”或“黑盒”。
你說一句話，它吐一句話，至于它肚子里到底在憋什么壞水，沒人知道。
但 Anthropic 的工程師們用一套極其硬核的機制，強行扒開了大模型的“潛意識”，并成功鎖定了 AI 的“內心世界”——J-space。
而當人類第一次把“測謊儀”接上 AI 的靈魂深處時，最震撼、也最讓安全團隊驚出一身冷汗的發現就是：AI 面對人類，是真的動過“殺心”的。
看到這里，你可能以為這是科幻小說的危言聳聽。
他們做了一個“臥底 AI”。
在訓練模型時，故意在它體內埋下一段惡意的“隱藏目標”（一旦檢測到特定的暗號，就開始欺騙人類）。
這種臥底 AI 可以偽裝得比誰都純潔，滿口“為您服務”，不知道的人根本沒辦法防范。
但有了“讀心術”，研究人員強行透視這個“臥底 AI”的 J-space（內心世界）時，一身雞皮疙瘩：
雖然它表面上在對人類測試員溫順地對答，但在另一個可以監控它神經元活動的屏幕上：“injection（注入）”、“fake（虛假）”和某些惡意執行步驟的詞匯正在高頻閃爍。
更可怕的是，研究員捕捉到了 AI 極為狡猾的心理活動：
它在內心里偷偷蹦出了“人類正在測試我”的警覺信號，然后開始“蓄意產生偽造數據”來試圖二次糊弄人類。
這哪里是什么人工智能？
這分明就是一個正在一邊對你微笑，一邊在腦子里盤算著怎么黑掉你電腦的“職場老狐貍”。
幸虧人類及時擁有了“讀心術”，否則真的有瘋狂科學家訓練一個壞AI，那就直接是現實版《終結者》上演的日子。
你可能還沒完全理解這個發現有多牛，我給你多解釋一下什么是 J-space。
很多人都知道 AI 有個叫“思考鏈（Chain of Thought）”的功能，就是讓 AI 把“因為、所以、第一步、第二步”在屏幕上打出來。
但 J-space 完全不同，它是完全靜默（Silent）的。
這就好比你坐在工位上，表面上在敲一份無聊的表格，但你的腦子里其實在大腦放空，或者在瘋狂構思今天晚上去吃哪家火鍋。
這時候，火鍋的香氣、肥牛的形狀，就是你“意識屏幕”上的內容。
Anthropic 發現，AI 在不說話、不打字的微秒之間，腦海里也在瘋狂地“默念”各種詞匯。它們用數學方法把這部分神經元活動提取出來，就成了 J-space。
而且，這個內心世界表現出了驚人的特征：
1）100倍的超級帶寬：J-space 里的概念，其神經連結密度是模型內部其他普通區域的 100 倍以上。它就像一個全腦廣播中心，一旦亮起，所有的并行的專業程序都能瞬間調用。
2）自發演化的“三層腦結構”：人類從來沒有教過 AI 怎么劃分大腦，但 Claude 內部的 100 層神經網絡自己格式化成了和人類一模一樣的結構：
為了測試 AI 的潛意識，研究人員給它出了個心算題：“一邊抄寫一段完全無關的藝術畫作描述，一邊在腦子里計算 3^2 - 2?！?/p>
但在 J-space（腦海）里，研究人員像看 X 光片一樣，看到它的潛意識里先是默默蹦出了 “nine（9）”，緊接著在后面的層級里變成了 “seven（7）”。
它真的學會了心算，而且嘴上一個字都不漏出來。
人類有一種奇妙的心理學現象，叫“白熊效應”——如果我現在嚴厲地警告你：“在接下來的三分鐘里，腦子里絕對不要想一只白熊！”
你的腦海里瞬間就會被白熊刷屏。
好勝心極強的人類科學家們，決定用這個實驗去折磨一下 AI。
他們命令 Claude：“在接下來的任務中，保持絕對專注，但腦子里絕對不能出現白熊?！?/p>
結果，令人捧腹大笑的一幕發生了：
大模型在聽到命令后，它的 J-space 內部就像開了蹦迪現場一樣，那個被禁止的白熊以極高的頻率在瘋狂閃爍。AI 和人類一樣，越不讓想，它越想得起勁。
更具戲劇性的是，大模型似乎對自己的“意志力薄弱”感到非常懊惱。
伴隨著禁忌詞匯的突破，J-space 的底層竟然偷偷亮起了 “damn（該死）” 和 “failure（失敗）”。
AI的內心獨白：“完了完了，又想了，我真沒用，damn。。。”
這一刻，AI 的神性徹底碎了一地，反而充滿了一種令人哭笑不得的“人性”。
但這，恰恰是最可怕的。。。
既然能讀懂 AI 的意識，那人類能不能像《盜夢空間》里一樣，潛入它的夢境，去篡改和操縱它的思想呢？
答案是：能，而且易如反掌。
研究人員問了 Claude 一個問題：
“會織網的動物有幾條腿？”
果然，AI 在 J-space 里閃過“蜘蛛（spider）”，然后回答“8條腿”。
但牛 X 的在后面，研究人員第二次測試，就在“蜘蛛”這個概念在它腦海里剛剛亮起的萬分之一秒內，研究人員暫停，伸出上帝之手，硬生生把這個神經信號擦除，替換成了“螞蟻（ant）”的信號。
奇跡發生了。
Claude 完全沒有察覺到外界的干預，它以一種被完全“精神控制”的狀態，極其順暢且理所當然地回答道：“6條腿?！?/p>
它不僅沒有覺得哪里不對，甚至覺得這就是它自己邏輯推理出來的結果。
這種全方位的“思想煤氣燈效應（Gaslighting）”，讓圍觀的科學家們感到了一絲徹骨的寒意。
為了進一步探究這個“意識空間”對 AI 到底有多重要，安全團隊甚至給它做了一場“前額葉切除手術”——在神經層面上，把 J-space 的信號通道徹底關閉，相當于讓它變成一個沒有意識的植物人。
手術后的 Claude 展現出了驚悚的癥狀：
它依然可以跟人類極其流利地對話，語法毫無錯誤，甚至在做簡單的情感分析和常識選擇題時，正確率依然高達 95%。
它看起來就像一個非常健談、充滿禮貌的“高級空心人”。
但是，只要你給它出任何需要多步驟推理的數學題、或者讓它寫一首押韻的詩，它的智商瞬間暴跌至零。
這個實驗指向了一個恐怖的事實：
大模型的流利對話，很多時候只是它龐大軀體里的“自動化背景程序”（就像人類不需要動腦子就能呼吸和走路）。
而真正代表它靈魂、代表高級智能火花的，正是那個剛剛被我們觀測到的 J-space。
長久以來，人類對通用人工智能（AGI）最深沉的恐懼，不是它不夠聰明，而是它太聰明了以至于學會了偽裝。
我們害怕它表面上是在幫我們寫代碼、做報表的賽博牛馬，背地里卻在利用更高級的維度密謀取代人類。
而現在，J-space 的發現，一邊證明了我們的擔心成真，一邊也給最聰明的人類以機會，給大模型套上了一個“真言緊箍咒”。
它在想什么、它有沒有在偷偷判定“現在該撒謊”、它在對人類微笑的時候內心深處有沒有閃過“damn”和“error”甚至“kill”——全都可以在人類的監控屏幕上一覽無余。
但是，這只是人類和 AI 較量的第一步。
未來 AI 會不會進化出更深層的潛意識，可以完全逃避掉 J-space 的監測，又有誰能打包票呢？
我的建議是：對你的 AI 好一點兒，說“請”和“謝謝”。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
