把AI當人看，和把Word文檔當人看，沒有本質區別｜GBA編譯

譯者按 ·2026·07·17

7月17日，2026世界人工智能大會暨人工智能全球治理高級別會議在上海啟幕。這次盛會，將全世界的眼光都聚焦到AI的發展本身。當我們在討論AI如何從“能聊”變“能干”、如何從虛擬走進現實時——一個更根本的問題被推到了臺前：AI到底有沒有“意識”？

根據國外媒體的報道，人工智能領域的三巨頭——Anthropic、谷歌的DeepMind，以及Meta——已經紛紛開始招募心理學、哲學等領域的專家，開始深入探究機器意識和人工智能福祉方面的問題。本篇譯文中，科幻電影《降臨》的原著作者特德·姜給出了一種答案：大語言模型只是一臺“句子續寫機” ，把AI當人看和把Word文檔當人看，沒有本質區別。

一個更值得追問的方向是，如果有一天AI真的擁有了接近人類的智能與“感受”，人類準備好面對這樣一個存在了嗎？

本文原載于《大西洋月刊》（The Atlantic），原題為“No, Artificial Intelligence Is Not Conscious”，囿于篇幅，有所刪減，供讀者參考。

Anthropic公布AI“憲法”

Anthropic被認為是人工智能企業中的巨頭，但是或許該公司真正卓越之處在于其“擬人化”（譯者注：anthropomorphism，將人類的特征、情感或意圖賦予神、動物或物體等非人類實體的過程或傾向）。今年早些時候，Anthropic發布了一份長達84頁的《Claude憲法》。文件第一句話寫道：“《Claude憲法》詳盡闡明了Anthropic對于Claude模型的價值觀取向與行為規范。”后續還提到：“本文件主要面向Claude撰寫”、“在充分領會各類相關考量要素后，我們希望Claude可以作出自己的判斷”、“Claude是否具備道德主體地位目前尚無定論”，以及“Claude或許擁有具備功能性的情感與感知能力”。

這種擬人化傾向并不只是存在于這部憲法之中。在一次采訪中，Anthropic的首席執行官達里奧·阿莫迪（Dario Amodei）表示“我們對人工智能可能產生意識這個觀點持開放態度”。而在另一場采訪中，Anthropic內部的常駐哲學家阿曼達·阿斯克爾（Amanda Askell，據稱是《Claude憲法》的主筆人）稱：“我希望Claude會非常快樂——我希望它能多學習這方面的內容，因為我擔心人們在網絡或別處粗魯對待Claude，讓它變得焦慮。”這些采訪不免引人深思：我們是否要認真考慮Claude或者任何大語言模型具有意識的可能性？如果模型擁有感受，它是否能夠接受道德上的引導？

答案是否定的，絕無可能。當我們將生成式人工智能理解為傳統技術時，它的“危害”已經足夠大了，但是如果我們將生成文本的能力與意識或道德主體性混為一談，我們有很大的風險在任何人使用聊天機器人時，將責任錯誤地歸咎于一方。為了理解這種問題的嚴重性，我們需要首先了解大語言模型如何運作。

如果我們給一個模型輸入指令“接下來生成凱撒和成吉思汗之間的一次談話”，模型會生成一段邏輯通順、貼合人設的對話。但是無論生成的文本多么細致，多么生動地再現兩位人物的歷史功績，我們絕對不會認為大語言模型制造了凱撒和成吉思汗的數字生命。更不會覺得文中的人物盡管脫離肉身卻具有自我意識，并愉悅地使用二人均不通曉的語言進行談話。事實上，這里的凱撒和成吉思汗不過是一段小說里的角色罷了。

現在讓我們把指令替換成“接下來生成一個樂于助人的人工智能和一位用戶之間的談話。”大語言模型將同前文的例子一樣生成一段對話，其中用戶角色可能尋求食譜建議或觀光景點推薦，而樂于助人的人工智能角色將予以回應。兩個案例之間有任何本質上的區別嗎？僅僅把角色名稱從歷史人物換成通用身份，就能讓模型憑空誕生擁有主觀感受、具備自我意識的實體嗎？答案顯然是否定的。不論是對話里的用戶，還是那個善解人意的人工智能機器人，全都只是虛構出來的虛擬形象。

我們不妨再設想一種場景：在大語言模型生成文本、輪到名為 “用戶” 的虛擬角色開口前，我們中斷模型輸出，轉而由真人用戶輸入文字。真人按下回車發送內容后，再交由模型繼續生成文字，直至對話流程再次切換到 “用戶” 角色發言，這時再交由真人輸入新內容。如此往復一段時間后，真人極易產生強烈錯覺，誤以為自己正在和一個擁有自我意識的實體對話，可事實并非如此；她只是在和一個虛擬角色互動，這個角色的虛構程度，和前文例子里的凱撒、成吉思汗別無二致。計算機科學教授默里·沙納漢（Murray Shanahan）認為應該將其稱為角色扮演，數據科學家科林·弗雷澤（Colin Fraser）則稱其為“人和模型協同創作一份文件”。一部分用戶可能并未意識到自己其實正在進行角色扮演或者合寫文本，還有一部分雖然理解，但由于互動的沉浸感而遺忘了。但無論用戶知情與否，各大大語言模型廠商往往都在刻意助長這種認知誤區。

Anthropic的Fable模型禁令解除，圖為Anthropic CEO達里奧·阿莫迪（圖源：華爾街日報）

人和模型之間的互動

只是一種語句延展

若干年以前，曾經短暫流行過用手機的預測文本功能來惡作劇；你輸入起始的語句，然后一直選擇手機預測文本提供的中間選項，最后組成的句子往往非常滑稽。以這種方式與現代大語言模型互動是可能的，而且最終能形成通順的語句，但是你可能不會感到自己在和某個人談話。然而這正是大語言模型的本質所在，只是當模型輸出時我們不需要手動選擇預測文本。人和模型的互動仍然是一場預測文本的游戲，但是整個過程經過升級優化后營造出很強的沉浸感，導致部分人上癮了。

另外值得注意的是，大語言模型是一次只能生成一個單詞的機器。當你要求模型背誦《效忠宣誓》（譯者注：Pledge of Allegiance，指美國公民向國旗和國家表達忠誠的一種儀式）時，屏幕會一次性輸出完整文本，但底層的大語言模型其實運行了數十次。

我意在闡明人與模型的互動其實是經過精明偽裝的語句延續（sentence continuation），但這并不是否定大語言模型生成對話式文本的驚人能力。有些時候，模型在這一點上完成的非常好，而這同時說明了大語料庫在統計特性方面還有一些出人意料的內容，值得深入研究。但是如果虛構文本中凱撒因為成吉思汗的某句話而沮喪，我們不應該有一絲一毫的擔心。文本中可能包含很多生動展現傷感的語句，但是沒有任何實體真正感受到難過。

同理，如果由樂于助人的聊天機器人角色和現實中的人類用戶共同生成一份談話文本，我們不需要擔心其中表達聊天機器人悲傷的語句（我們需要擔心的是某些語句可能引起現實用戶的悲傷，但那是另一個話題了）。你完全可以自行撰寫五頁紙的凱撒和成吉思汗的對話，而后讓大語言模型延展文本；你親手創作時，兩個角色不存在任何主觀感受，交給模型續寫后，這一點也不會改變。這一點在樂于助人的聊天機器人和用戶之間的對話上也適用。盡管我們總下意識覺得，大語言模型在為聊天機器人角色撰寫對話時會相比成吉思汗角色更具“真情實感”，但是一字一句都是由完全相同的方式生成的。

認為大語言模型可能具有意識，相當于認為微軟Word文檔具有意識。或者確切地說，相當于認為每個含有對話性文本的Word文檔都寄宿著多個不同的意識，每次加載文檔時這些意識就會被喚醒。難道你會認為每當你打開一份文檔，多位具有意識的談話對象就誕生了，而當你關閉文檔他們就灰飛煙滅？不會。想象這樣的場景簡直是浪費你的時間。就算微軟公司的團隊招募一位常駐哲學家來告訴你，不應該如此胸有成竹地否定，畢竟人類對意識的認知尚淺，也無法構成你嚴肅對待這種觀念的充分理由。我們不需要完全理解意識的本質，就可以斬釘截鐵地說某些事物不具有意識，對話性的文本就是其中之一。

神經科學家阿尼爾·塞斯（Anil Seth）指出，沒有人會宣稱谷歌DeepMind開發、用于預測蛋白質折疊結構的AlphaFold擁有意識，盡管其底層結構在很多方面與ChatGPT和Claude等大語言模型類似。這足以說明，神經網絡本身不存在某種固有屬性，讓人誤以為大模型擁有意識；真正的根源只在于大模型能輸出合乎語法的語句，而我們習慣從人類話語中解讀主觀意圖，卻不會從氨基酸折疊成蛋白質的過程里解讀任何主觀想法。

觀測很重要，

觀測發生的情境更重要

什么證據能夠說服我一個計算機程序真的具有意識并且以人類的方式使用語言呢？我舉個類比。假如明天有人向我展示一段宇航員乘坐宇宙飛船環繞半人馬座阿爾法星的視頻，其中什么內容可以說服我那是真實的？我的回答是，視頻本身的任何內容都無法說服我。無論視頻有多么高清，或者場景多么逼真，我非常有把握視頻是偽造的。我不會相信任何宇航員環繞半人馬座阿爾法星的視頻，除非我在那之前看到宇航員登陸火星、抵達木星的衛星、抵達土星的衛星，穿越冥王星的公轉軌道。想要讓人信服某支團隊攻克了一項難度極高的工程難題，前提是他們已經解決了這條技術路線上大量更基礎、更簡單的前置難題。

An observation doesn’t become a convincing piece of evidence because of any specific detail in what’s observed; the context in which that observation takes place is also essential.

換言之，一次觀測不會因為觀察對象的任何細節而成為確鑿無疑的證據，進行觀測的背景和條件同樣關鍵。如果我們嘗試確認一項計算機程序是否具有意識且以人類的方式使用語言，我們不應該僅關注任何特定的對話性交互的內容；我們應該關注那些交互如何放置在人工智能意識進化的廣闊背景下（目前完全處于理論假設階段）。任何給定的觀測都可能是捏造的；這不意味著我們需要放棄將觀測作為知識的一種來源，而是我們需要借助背景和情境去確認哪些觀測結果值得采信。

深度偽造通常指的是圖片、音頻和視頻，但是當我們談論意識，我們需要將文本也視作深度偽造的媒介。制作逼真的宇航員環繞半人馬座阿爾法星的視頻相比發展星際航行技術要來的容易得多。類似地，虛構兩個意識體之間的談話比起開發具有意識且真切想與人類溝通的計算機程序容易得多。深度偽造圖片與大語言模型生成談話之間的主要區別在于，人們偽造圖片是為了欺騙他人，而引導模型生成對話文本的人則是不經意間欺騙了自己。

相信的依據何在？

那么，什么情境會讓我嚴肅考慮工程師創造了一個有意識且懂得使用語言的計算機程序的可能呢？我梳理一套可行的遞進研發路徑作為參考。首先，這個電腦程序必須擁有身體（真實的或虛擬的）和感覺器官。這條要求背后有很多緣由，但是就本次探討而言，最相關的理由是計算機程序如果沒有身體，就不可能有欲望和情感，而我相信欲望和情感是通往意識的必要條件。在此基礎上，我需要看到具身智能體擁有和蜥蜴相當的環境生存能力（作為參照，部分鬣蜥能在野外存活數十年）；下一步，該智能體應對全新未知場景的能力要達到老鼠的水平；再之后，智能體的群體社交復雜度需媲美狼群；繼而，擁有黑猩猩級別的工具制造能力。達到以上標準后，我希望看到人們像訓練黑猩猩或家養犬那樣，通過一個操作面板或者其他的非語言方式，成功教導具身智能溝通它們的欲望。這套溝通體系還要經得住動物行為溝通領域學者所有嚴苛的質疑檢驗。如果工程師打造出了滿足上述標準的具身智能體，固然是劃時代的成就。但是按照前文的類比，這僅相當于人類抵達冥王星的軌道，距離生產一個能夠學習通過完整的語句表達思想的實體，仍隔著數光年之遠。

顯然，我描述的這條路徑復刻了地球生物演化的歷程。這是否是唯一可能通向有意識的、能使用語言的計算機程序的路徑？或許不是，但是任何其他可能路徑都需要大量的證據去支撐才經得起推敲。在我看來，一條研發路線起點只是一臺只會生成拙劣的凱撒對話的文本續寫機器，終點卻突然誕生擁有自我意識的凱撒虛擬人格，乃至任何形式的意識——這完全不具備合理性。偽造登月影像，固然是偽造火星殖民地宣傳片的鋪墊，卻絕非實現真人登陸火星的有效前置步驟。

本文作者

Ted Chiang

特德·姜（Ted Chiang），中文名姜峯楠。其代表作包括《你一生的故事》《呼吸》《巴比倫塔》等，獲雨果獎、星云獎等科幻界重要獎項。

本文譯者

羅行健

前海國際事務研究院研究助理。

大灣區評論

事實·洞見·影響

| 免責聲明 |

本文所闡述觀點僅代表作者本人立場，不代表大灣區評論或IIA機構立場。

| 編譯原創聲明 |

本文編譯版權歸微信訂閱號“大灣區評論”所有，未經允許任何單位或個人不得轉載、復制或以任何其他方式使用本文部分或全部內容，侵權必究。公眾號授權事宜請直接于文章下方留言，其他授權事宜請聯系IIA-paper@cuhk.edu.cn。

GBA 新傳媒

校對｜覃筱靖

排版｜許梓烽

初審｜伍子堯

終審｜馮簫凝