DeepMind科學家萬字長文：為什么AI永遠不可能有意識？

文 | Omni實驗室

近期，谷歌DeepMind高級科學家Alexander Lerchner發表了一篇論文。

結論非常清晰：

算法符號操作在結構上不可能有能力產生意識，無論模型多大、架構多復雜、是否擁有人形身體。

仔細看這句話，AI有意識這件事兒不是現在不行，而是從邏輯上看永遠都不行~

這篇論文的標題為《The Abstraction Fallacy： Why AI Can Simulate But Not Instantiate Consciousness》

（譯 | 《抽象謬誤：為何人工智能只能模擬意識，但不能實例化意識》）

論文發出后，引發廣泛討論~

（一) 主流范式錯在哪里?

Lerchner要反駁的，是目前AI意識討論中最主流的一個理論框架——計算功能主義。

計算功能主義拆開來看包含幾個核心信息：

1.意識的本質是一套因果拓撲結構，跟底層物理材質沒有關系;

2.同一套功能可以在人腦的生物神經元上實現，也可以在硅基芯片的數字電路上實現;

3.只要一個數字系統精準復刻了意識的因果邏輯，主觀體驗就會自動涌現;

說白了就是一句話：意識不挑硬件，碳基還是硅基都不重要。

但Lerchner認為，這套理論看著沒有錯誤邏輯，但實則從一開始就建立在錯誤的前提上。

他給這個錯誤起了個名字：抽象謬誤。

（二) 抽象謬誤：把地圖當成領土

他為抽象謬誤提供了兩個比喻:

1、地圖不是領土

無論把一張城市地圖畫得多精細，完整復刻每一條街道、每一棟建筑、每一個紅綠燈，這張地圖都不會變成它描述的那座城市。

地圖是對城市的抽象關系描述，城市是具備真實物理因果力的實體存在。

2、公式不是引力

寫在紙上的萬有引力公式可以精準描述引力規律，但這個公式本身不會產生質量，也不會產生引力。

公式是對引力的抽象邏輯描述，引力是物理世界的內在因果屬性。

Lerchner認為，計算功能主義正好陷入了這個謬誤：

把對意識行為和邏輯的抽象符號模擬等同于意識本身的真實生成。

一個系統可以把意識的行為模仿得惟妙惟肖，但這只是模擬，模擬不等于真正擁有。

（三) “制圖者”：被忽略的前提

論文引入了兩個關鍵概念：“模擬”和“實例化”。

模擬可以理解為對某一現象的外部行為復制。

比如一臺機器可以模仿心臟泵血的動作，但它不會因此變成真正的心臟。

真正的心臟有其內在的物理構成和熱力學動態，這是“實例化”。

論文嚴格區分了這兩個概念的前提，是找到了整個計算范式中一個長期被忽略的要素——制圖者（Mapmaker）。

制圖者，是任何一個擁有主觀體驗的生命體，它完成的工作是對物理世界的語義切分。

計算機里運行的0和1不是宇宙的固有屬性，物理世界不“知道”什么是1什么是0。

芯片里只有實實在在的電壓和電荷的連續流動，是人類觀察者為這些物理信號設定了閾值，賦予它們符號意義。

如果沒有一個擁有主觀體驗的主體來“制圖”，物理世界的狀態就只是狀態，不構成任何符號。

計算功能主義假設了物理狀態到符號狀態的映射關系，但從來沒有想過這個映射要在哪里才能真正成立。

換句話說：一套算法可以在不同的解讀框架下構成完全不同的意義~

同一個物理載體可以承載不同的抽象關系，真正賦予它意義的是對它做出解讀的那個認知主體。

（四) 算力解決不了的問題

Lerchner認為，意識的來源不是系統規模問題，不是復雜性問題。

無論模型參數堆得多大，無論神經網絡架構多復雜。

如果底層機制仍然是符號操作，那么意識就永遠不可能從中憑空出現。

有人可能會追問：具身化的機器人呢？

給它裝上攝像頭和傳感器，讓它和環境交互，是不是就能具備意識？

Lerchner認為不能。

機器人采集到的信號只是連續的物理信號，不管是通過ADC（模數轉換器）還是其他方式轉換為數字信號.

運算的核心仍然在跑那些被提前賦予了符號意義的數字。

運算之前的信號輸入已經被做了字母表化。

運算過程中的邏輯演化同樣是建立在已符號化的數據之上，最終輸出同樣只是符號操控的結果。

整個過程從輸入端到輸出端，都沒有脫離符號操作的框架。

（五) 接受批判，但暫不宣判

有學者對Lerchner的論證表示了一定程度的支持。

其中一種觀點認為:

這篇論文成功挑戰了計算功能主義中過于天真的簡化解讀~

也有效提醒了學界不要只憑外在行為的復雜性就隨意為AI賦予本體論地位。

同時，也有中立立場觀點認為：

Lerchner對計算功能主義的批判很有價值，但無需立即得出“所有算法都不能擁有意識”的強結論。

目前的系統確實沒有令人信服的意識證據，計算的本體論地位確實存在爭議，但這些并不足以成為最終宣判。

其實

當討論AI是否有意識這個話題的主體從局外的哲學家變成了業內的科學家時，問題的性質就已發生變化。

這種觀點的對立并不會阻礙技術前行，反而讓人們更清楚~

真正值得珍視的，不是對意識的模擬，而是意識本身。