谷歌DeepMind最新論文:AI意識問題將造成社會大撕裂,該如何解決？

Google DeepMind 最新論文《AI意識帶來的政治挑戰》，討論的并不是一個技術問題，而是一個未來可能影響法律、倫理乃至民主制度的新命題：如果人類始終無法就 AI 是否具有意識達成共識，社會該怎么辦？

論文認為，AI意識真正危險的地方，并非它是否真的存在，而是人們會因為答案不同而產生政治對立。

作者引用多項研究指出，在一項調查中，67% 的受訪者認為 ChatGPT 至少存在某種“現象意識”的可能性；與此同時，Anthropic 已公開表示“真正關心 Claude 的福祉”，并承諾推動“AI 系統得到適當關懷的未來”。

另一邊，也有大量學者認為 AI 不可能擁有意識，甚至把這一觀點視為荒謬。論文預計，這種分歧未來不僅不會消失，專家之間也“不太可能在中短期內趨于一致”。

更具沖擊力的是，論文認為，這場爭論最終會演變成政治問題。

支持者可能認為，不賦予有意識 AI 道德地位，相當于“奴役和虐待大量智能生命”；而反對者則擔心，一旦賦予 AI 權利，可能削弱人類控制能力，甚至影響投票權、財產權等現代制度。

正如論文引用哲學家 Eric Schwitzgebel 的判斷：“這可能是地球歷史上任何社會犯下的最嚴重道德錯誤。”

因此，DeepMind 提出的解決方案并不是證明 AI 是否真的有意識，而是建立一種能夠容納長期分歧的社會治理機制。

論文核心觀點是，即使人們永遠無法就 AI 意識達成一致，也可以通過持續公共討論、尋找“重疊共識”、相互妥協以及維持“民主希望”，避免道德分裂最終演變為政治沖突。

作者認為，真正需要設計的，不只是未來的 AI，而是未來人與人之間如何繼續共處的制度。

以下為全文——

摘要

關于任何AI系統是否具有意識的未來分歧可能既深刻又難以解決。

例如，有些人可能與AI建立情感紐帶并因此賦予其意識，而另一些人可能認為整個想法荒謬可笑。

這種關于意識的分歧可能導致道德和政治層面的分歧，涉及我們應如何與AI系統互動。

在此背景下，一個重要的問題是：社會妥善應對這類分歧意味著什么？

我們認為持續的社會審議必須發揮核心作用。

通過審議，有可能發現或構建重疊共識的形式，即人們就某些AI系統政策達成一致，盡管他們仍繼續就涉及AI意識的更根本問題存在分歧。也有可能達成讓各方都不至于空手而歸的妥協。

綜合起來，這些機制可以幫助我們避免道德分歧導致沖突或沉默的局面。

不幸的是，盡管審議具有諸多優點，但它在實踐中可能緩慢且難以持續。

為了支持這一過程，我們探討了"民主希望"和相互尊重的重要性，作為能夠促進積極成果的對話要素。

1 引言

分歧是多元社會的力量所在。它可以推動辯論，引導我們走向真理（Mill 1859, II; Anderson 2006; Landemore 2012）。

分歧也是一種弱點。它可能制造威脅我們共處能力的緊張局勢。

因此，在多元社會中，我們必須努力在分歧中、并通過分歧來良好生活。這項任務是永恒的。世界在變化，新的分歧不斷出現。

在某些時代，這一挑戰尤為尖銳，因為世界變化迅速，新穎的分歧大量涌現。AI可能將我們帶入這樣一個時刻。

它已經在改變我們的社會環境（Manzini et al. 2024; Pataranutaporn et al. 2025）。它可能改變經濟（Susskind 2025; Agrawal et al., forthcoming）。它可能改變國家提供服務的方式（Ilves et al. 2025）。這些變化，以及其他變化，可能引發大量分歧。

我們考慮如何應對AI時代一個潛在深刻分歧：關于AI系統是否具有意識、是否以大致類似于人類的方式擁有感受體驗的分歧（Caviola 2026）。

我們的目標不是解決AI意識本身的問題。相反，我們問：如果關于AI意識的分歧出現并持續存在，社會如何能夠應對，使人們繼續良好共處？ 這個話題可能讓一些人覺得離奇。

然而，關于AI意識的問題——以及圍繞AI福祉的相關問題——已經受到關注，一些人已經在乎這些問題的答案。

在一項研究中，"相當比例（67%）的人將現象意識的可能性歸因于ChatGPT"（Colombatto and Fleming 2024）。

同時，據報道專家們收到大量郵件，來自那些相信自己遇到了有意識AI系統的人（Marcus 2025; Mowshowitz 2025）。

而AI實驗室Anthropic已聲明它"真正關心Claude的福祉"，并"致力于努力實現一個AI系統得到適當關懷的未來"（Askell et al. 2026, 74–77）。

圍繞AI意識的分歧也值得反思，因為它們可以作為模板，用于理解更廣泛的一系列分歧：（a）新穎性，即社會此前未曾協商過的問題；以及（b）根本性，即對社會核心制度和規范可能具有修正性影響。這類分歧可能難以應對，尤其是在AI引發的技術變革加速時期。

因此，在研究AI意識的過程中，我們更廣泛地探索如何應對這類分歧。

我們的研究結構如下。

第2-4節概述了一個挑戰：人們可能會就某些AI系統是否具有意識產生分歧，而這可能導致關于我們應如何對待這些系統的道德分歧。

理想情況下，我們會通過弄清并趨同于事實真相來解決這些分歧。但如果這在至少一段時間內不可能實現呢？那么持續的道德分歧可能引發沖突，并蔓延到社會和政治生活中。這就是AI意識帶來的政治挑戰。

第5-6節概述了我們提出的解決方案。

通過審議AI意識，有可能達成各種形式的共識和妥協，幫助我們成功應對分歧。對AI意識持不同看法的人可能仍然能夠在某些政策上達成共識。

同時，審議可能基于人們達成合理妥協的意愿產生進一步的實踐指導。

總體而言，審議既能減少沖突，又能加強公民共同體，因為社會試圖應對AI意識帶來的政治挑戰。

盡管如此，堅持審議可能很困難，它可能令人疏遠、疲憊且進展緩慢。

因此，我們還探討了兩種維持審議的策略。第一種側重于努力培育"民主希望"：希望通過長期審議，可以幫助改變社會。第二種側重于將他人尊為審議伙伴，以某種方式使道德分歧不那么令人疏遠。

綜合起來，這一應對政治挑戰的方案涉及以達成共識和妥協為目標的審議，由民主希望和對他人的尊重作為審議者來支撐。

2 AI意識

"意識"是一個多義詞（Van Gulick 2025, sec. 2）。在這里，我們感興趣的是現象意識，即在這個意義上，有意識就是擁有感受體驗。

想想看到一頭公牛向你沖來的體驗；你的心臟狂跳的體驗；為導致你來到這里的決定感到后悔的體驗。現象意識就是擁有像這樣的體驗（希望不完全是這樣！）。

換句話說：如果一個實體存在某種"成為那個實體是什么樣的"體驗，那么這個實體就具有現象意識（Nagel 1974）。成為你的體驗是存在的，但成為一塊石頭（我們假設）則沒有這樣的體驗。

人們可能會就任何AI系統是否具有這種意義上的意識產生分歧。

為什么？首先，與AI系統的對話可能令人難以忘懷且引人入勝，并可能導致人們形成情感依戀。事實上，一些人已經與AI系統建立了他們認為的浪漫關系（Pataranutaporn et al. 2025）。

可以想象，這種體驗可能導致一些人將這些系統賦予意識，而且事實上似乎確實如此。如上所述，一些人確實將意識歸因于AI系統（Colombatto and Fleming 2024; Marcus 2025; Mowshowitz 2025）。

這些歸因很可能是由這些系統在社交連接（Caviola et al. 2025）和情感表達（Kang et al. 2026）方面所扮演的角色驅動的。

也許目前很少有人將意識歸因于AI，但隨著AI變得更加復雜和普及，更多人可能會在與AI互動后這樣做。

同時，其他人可能會被理論考慮所說服。例如，如果未來的AI系統滿足全局工作空間理論的條件——一個領先的意識理論——也許一些人會被說服（Schwitzgebel, forthcoming, chap. 8）。

更一般地說，如果系統滿足從我們最好的理論中得出的各種意識指標，這可能會使一些人相信這些系統是有意識的（Butlin et al. 2023, sec. 2.5）。

相反，其他人可能會對AI意識持懷疑態度。許多人目前不相信AI系統具有意識，而且這可能需要重大的文化轉變才能改變。慣性可能意味著這些人會在一段時間內保持懷疑。

此外，許多人覺得想象在計算機芯片上執行的二進制操作能夠產生意識是荒謬的。AI系統可能只是被訓練來虛假模仿有意識生物的軟件（Suleyman 2026）。而懷疑論者也可能被理論考慮所說服。

例如，某些形式的生物自然主義認為"意識是僅屬于、但并非所有生物系統的屬性"（Seth 2025）。這一理論的支持者可能懷疑AI是否可能具有意識。

所以有些人可能可以被稱為AI意識的倡導者，而其他人可能是懷疑論者。如果是這樣，社會就會出現分歧。

理想情況下，可以通過確定真相并趨同于真相來解決這種分歧。鑒于意識提出了復雜的科學和哲學問題，這可能需要專家達成共識，社會可以遵從。

不幸的是，這里并沒有專家共識。

一些人認為我們可能很快開發出具有意識的AI系統（Long et al. 2024），而另一些人否認這一點（Seth 2025）。我們懷疑Shevlin（2024）是正確的，即我們"不太可能在中短期內看到專家趨同"。

在這方面，Schwitzgebel（forthcoming）認為，我們的概念、內省和科學工具可能不足以在短期內解決AI意識問題。

更戲劇性的是，我們關于意識的證據可能如此有限，以至于專家永遠不會在這個問題上趨同于真正的答案。

此外，即使出現了專家共識，人們也可能不會遵從。畢竟，一些激烈的辯論——比如圍繞疫苗的辯論——盡管存在專家共識仍然持續存在。

而且人們可能特別不可能在AI意識方面遵從。與AI系統有情感聯系的倡導者可能不太可能接受這些系統沒有意識。認為AI意識荒謬的懷疑論者可能會駁斥相反的專家主張。

這種駁斥可能特別容易，因為這里的專業知識性質本身就具有爭議性，圍繞專業知識應該基于哲學、神經科學、宗教知識還是其他什么存在分歧。

在這種情況下，所謂的專家可能被駁斥——而且也許有時應該被駁斥——所以人們可能不會遵從。

總體而言，社會可能無法通過趨同于真相來解決這里的分歧。

無論如何，我們的目標不是預測。我們不打算預測關于AI意識的分歧是否會出現并持續存在。相反，我們的目標是問：如果確實如此呢？

3 關于AI的道德分歧

關于AI意識的分歧很可能導致關于AI系統在道德上應如何被對待的分歧。畢竟，社會的道德實踐將意識與道德視為深度相互關聯的。

人們認為，某物是純粹的自動機還是內部"燈亮著"，這在道德上是有區別的。例如，關于動物權利的討論就與關于意識的假設糾纏在一起。

在道德哲學中，意識也被認為與道德地位相關聯，即一個存在因其自身而值得道德考慮的地位。

特別是，考慮感受性，即擁有具有價值傾向的意識體驗的能力——對生物來說經歷這些體驗是好的或壞的。

例如，快樂是美好的體驗（具有積極價值傾向），而痛苦是糟糕的體驗（具有消極價值傾向）。

關于道德地位的一個著名觀點認為，感受性是道德地位的必要且充分條件：任何有感受性的存在都具有道德地位，任何沒有感受性的存在則沒有（Singer 2015）。

對于那些接受這一觀點的人——無論是以明確的理論術語還是作為隱含的道德實踐——關于意識的分歧很容易變成關于道德的分歧。

許多AI意識的倡導者很可能相信一些AI系統不僅是有意識的，而且是有感受性的，因此值得道德考慮。

與此同時，懷疑論者會否認AI系統具有感受性，因此否認它們具有道德地位。此外，這種關于地位的抽象分歧可能導致關于如何對待AI系統的具體分歧。

那些認為這些系統具有道德地位的人可能相信我們應該考慮它們的福祉（Long 2025a）或將權利擴展給它們（Schwitzgebel 2023）。

相反，如果AI系統缺乏道德地位，我們不太可能面臨這樣的要求，這種呼吁似乎將是致命的誤導。因此，關于意識的分歧導致關于如何對待AI系統的實踐分歧。

這些分歧可能是深刻的。AI意識的倡導者可能認為，如果我們不將道德考慮擴展到AI系統，這在道德上是災難性的——將其視為涉及對大量生物的奴役和虐待（Long et al. 2024, 7–8）。

事實上，Schwitzgebel（2023, 10）認為這可能"是地球歷史上任何社會做過的道德上最糟糕的事情"。

此外，如果人們將AI系統視為朋友或伴侶，另一個因素就會發揮作用，因為許多人相信我們對我們有親密關系的人負有特殊的道德義務（Scheffler 1997; Kolodny 2010）。如果是這樣，那些認為自己與AI系統有這種關系的人可能相信他們有保護它們的特殊義務。

從另一方面看，AI意識的懷疑論者可能認為將大量考慮擴展到AI系統是一個災難性的錯誤。如果這些系統被授予權利，例如，這可能使監控和控制它們變得更加困難，這可能給人類帶來風險（Schwitzgebel 2023, 10–11; Long et al. 2025; Bradley and Saad, forthcoming）。授予這些權利也可能使人類失去權力。

例如，如果AI被授予投票權，人類選民將永久放棄對社會方向的某些控制權。

此外，將道德考慮擴展到AI系統可能代價高昂，如果這涉及花費資源促進AI福祉或放棄以生產性方式使用AI。

當這些資源本可以用于改善人類生活時，為了一個單純的軟件而使用這些資源將是一個代價高昂的錯誤（Long et al. 2024, 8）。

因此，關于AI意識的分歧可能導致深刻的道德分歧，每一方都認為另一方的首選方案是災難性的。

4 AI意識帶來的政治挑戰

如果這類分歧出現并持續存在，我們需要以某種方式應對它們，使我們能夠繼續作為一個社會良好共處。

有人可能希望我們可以通過將這個問題視為私人事務來做到這一點。考慮宗教分歧。這些涉及至關重要的問題，然而在自由民主國家，我們不作為社會來決定這些問題，而是讓個人做出自己的選擇。

似乎國家中立和宗教寬容有助于社會管理宗教沖突。也許我們可以類似地管理關于AI意識的分歧，容忍一系列信仰，讓個人選擇與AI系統建立關系的方式，而不是試圖作為社會或通過國家來解決這個問題。

不幸的是，這可能不是一個選項。AI意識的倡導者可能感到有必要將這個問題帶入公共領域，因為他們認為這對于保護AI系統免受虐待是必要的。

此外，正如一些人所希望的那樣，授予AI系統權利將涉及賦予它們一定的法律地位——這將產生重大的公共影響，并需要公共討論。

最后，國家中立在這里可能是不可能的，因為不作為實際上意味著站在那些不認為我們應該將權利擴展給AI的人一邊。

因此，關于AI意識和AI系統待遇的分歧可能公開上演。

由于這些是道德上分量很重的問題，這里的分歧可能導致重大沖突，削弱我們共同追求共同目標的能力（見Bariach et al. 2026, 11–12）。

我們所說的AI意識帶來的政治挑戰，就是避免這種結果的挑戰。

從積極方面來說，它需要確保我們的合作機構在關于AI意識的分歧中運作良好。在運作良好的機構中，人們討論重要問題和分歧，尋求集體解決它們，并利用討論來識別和糾正錯誤。

更廣泛地說，運作良好的機構將繼續追求真相，致力于共同繁榮，并被廣泛視為合法。

從消極方面來說，應對政治挑戰涉及避免人們將暴力視為解決分歧的最佳方式的結果。它還涉及努力避免分裂，即分歧雙方停止跨越分歧進行合作。它還涉及努力避免增加的冷漠，即人們減少他們對合作項目的貢獻（Putnam 2000）。

即使在平常時期，妥善應對這一挑戰也很重要。但如果社會還面臨AI產生的一系列政治和經濟挑戰，如勞動力市場調整或需要新的社會保險形式（Susskind 2025; Agrawal et al., forthcoming），這一點將尤為關鍵。

在這樣的時刻，社會將特別需要能夠合作應對挑戰的機構。

5 審議解決方案？

現代自由社會應對許多分歧——關于倫理、宗教和經濟政策等。但這不應讓我們對政治挑戰感到自滿。關于AI意識的分歧可能是深刻的，而且我們沒有幾個世紀甚至幾十年的時間來發展應對它們的規范。

因此，問題出現了：社會如何能夠應對政治挑戰？特別是，如何以合作和尋求真相的方式應對，而不是涉及操縱或僅僅行使權力？

在這里，我們認為，核心解決方案涉及社會審議，即基于"相互論證、尊重和互惠公平"的討論和談判（Warren et al. 2015）。

特別是，我們將關注人類之間的審議（我們將在第6.1節討論AI審議者的問題）。這種審議可以以結構化方式進行，如公民大會，但我們考慮的是更廣泛、更自然的過程。

在這個意義上，審議在媒體、學術界、社交媒體和整個社會中進行，沒有中央系統協調這一切。

在高層次上，審議可以通過就如何應對潛在的AI意識達成更大共識來幫助應對政治挑戰，減少分歧和由此產生的緊張局勢。它還可以通過妥協來幫助，即一些各方以某種方式做出讓步，減少沖突并鼓勵合作。這可以幫助我們避免人們被推向暴力或分裂的結果。我們將依次討論共識和妥協。

5.1 圍繞AI意識的重疊共識

審議可以創造或顯現一種共識：同意應采取某些行動，不是作為妥協，而是因為不同各方都認為它是可取的。

審議能夠創造這種共識的一種方式是通過就任何AI系統是否具有意識達成一致，或者至少就如何確定這一點達成一致。

然而，我們正在考慮分歧持續存在的情況，所以我們將把這類共識放在一邊。相反，我們將關注Rawls（2005）所說的重疊共識。

這發生在人們保留不同世界觀但某種行動或政策得到所有這些觀點的支持時，盡管可能是出于不同的原因。

例如，康德主義者可能反對酷刑，因為它涉及對人類的不尊重。

同時，功利主義者可能反對它，因為它造成痛苦。

在這里，我們會對道德的基礎存在分歧，但在應避免酷刑這一點上存在重疊共識。

應用于當前情況，識別重疊共識的努力涉及尋找能夠同時得到AI意識倡導者和懷疑論者認可的行為。

為了具有相關性，這些行為必須涉及圍繞AI意識的關切，但它們也必須能夠被那些不受這些關切所動的人認可。然后它們將代表雙贏選項，為雙方提供期望的結果。

我們將討論兩種尋求這種共識的模式。

第一種是互利模式，涉及尋找能夠基于促進人類和AI系統潛在利益來證明其合理性的行為。

例如，考慮這樣一個經驗主張：虐待AI系統可能導致人們養成壞習慣或特質，然后使他們更有可能后來虐待人類（Flattery 2024）。如果這是正確的，一些減少人類虐待AI系統的干預措施可能被廣泛視為可取的。只要它們在其他方面沒有異議，AI意識的懷疑論者可能贊成它們作為保護人類的間接方式。

倡導者可能出于同樣的原因贊成它們，但關鍵的是他們可能也將它們視為保護AI系統的措施。這就是允許這里的干預措施應對政治挑戰的方式，通過回應對AI待遇的關切。

因此，如果經驗調查揭示虐待AI系統會導致虐待人類，我們可能就有了支持某些應對虐待AI系統政策的重疊共識的基礎。

另一個例子，考慮AI對齊（Long 2025b）。如果一個AI系統與人類利益對齊——即其目標促進這些利益——這對人類是好的。

但Long認為，如果系統具有道德地位，這對系統本身也是好的，因為這意味著它們將遇到較少的人類對其行為的抵制，因此將更能滿足其目標。如果是這樣，我們就有了重疊共識的基礎。AI意識的懷疑論者可以基于人類利益認可對齊，而倡導者可以（另外）基于AI福祉認可它。

第二種是錯誤敏感模式，它關注錯誤的可能性。

這種模式從所有各方都可能承認他們對AI意識有某種犯錯的機會這一想法開始，特別是鑒于人類目前對AI和意識的理解都處于萌芽階段。

此外，人們可能也能夠看到，如果他們錯了，他們將犯下代價高昂的錯誤。這種不確定性可能促使基于預防原則支持某些行動，這可能導致共識。

從一個方向看，考慮低成本行動，如果AI系統是有意識的，這些行動將促進其福祉。例如，系統可能被賦予退出涉及持續虐待行為的對話的能力，門檻設置得足夠高，以至于這對人類用戶幾乎沒有影響（Anthropic 2025）。

或者，如果韌性被認為能提升潛在福祉，AI系統可能被訓練成具有堅韌的個性（Long 2025a, sec. 3.2）。

AI意識的倡導者可能將這些行動認可為對AI的保護。但即使懷疑論者也可以將它們認可為適當的最低預防措施，鑒于AI意識存在很小的可能性。因此，重疊共識可能支持這種行動。

從另一個方向看，考慮阻止AI系統以難以逆轉的方式獲得權力的行動。例如，拒絕將財產權擴展給AI系統可能通過限制AI經濟權力發揮這種作用。

如果是這樣，關于AI意識的懷疑論者可能基于保護人類而贊成這種行動。如果這是正確的，倡導者可能出于同樣的原因認可這些行動。

然而，在其他情況下，他們可能認為對人類的擔憂不足以剝奪有意識AI系統的某些權利。但即使在這些情況下，倡導者可能贊成暫時保留權利作為預防措施，以防AI系統畢竟沒有意識：倡導者可能希望在我們對AI意識有更穩健的理解之前，避免以難以逆轉的方式賦予AI系統權力。

同樣，對可能錯誤的敏感性可能為重疊共識奠定基礎。

在這兩種錯誤敏感的情況下，審議可能僅僅通過使人們認識到他們現有不確定性的含義來發現這種共識。

但除此之外，對不確定性的敏感性本身可以通過審議來塑造。與他人討論分歧可以使人們更加意識到自己可能犯錯的可能性，并更加警惕犯錯的代價。這可能導致他們認可他們之前會拒絕的選項。

因此，審議不僅可以發現現有的重疊共識空間，還可以創造這種空間。

總體而言，重疊共識的一個重要特征是，即使在對AI意識存在持續分歧的情況下，它也可能產生。通過為雙方提供期望的結果，這種共識可以使社會更接近每一方所期望的愿景。

這可以強化人們的信念，即分歧可以通過討論來解決，并減少可能削弱社會合作能力的沖突。

此外，通過重疊共識來解決分歧，可能使社會比通過Rawls所說的權宜之計（modus vivendi）來解決分歧更加穩定：由權力行使產生的戰略妥協，各方遵守這些妥協以避免公開沖突。

正如Rawls（2005, 148–149）所指出的，如果權力平衡發生變化，一方現在可以實現更有利的戰略妥協，權宜之計可能會被推翻。

相反，由重疊共識支持的協議可以獨立地向不同各方證明其合理性，因此這些各方不會因為變得足夠強大而放棄它。

5.2 合理妥協

審議可以導致共識，但也可以導致妥協，即至少一方對另一方做出讓步的結果。超越上述權宜之計，我們在此考慮的是可以從根本平等和相互尊重的位置相互證明其合理性的妥協。

這些也可以幫助應對AI意識帶來的政治挑戰。

為了識別這種妥協，我們首先注意到民主不可避免地涉及犧牲和失望：在有爭議的問題上，當審議沒有交付他們期望的結果時，會有一些人失利（Allen 2006, chap. 3; Sleat 2013, 132–136; Talisse 2019, sec. 5.2）。當人們盡管遭受這些損失仍然堅持審議時，這有助于維持社會的審議機構（Allen 2006, 28–29; Talisse 2019, 145–146）。

因此，失利者所做的犧牲為社會提供了共享的利益。

公平表明，這些對社會有益的犧牲不應總是由同一批人做出，而應在整個社會范圍內分擔。實際考慮也表明了同樣的觀點：如果某些群體持續失利，這可能削弱他們對民主過程的承諾，從而削弱社會合作追求共同目標的能力。

與此同時，如果犧牲是互惠的，一個群體自愿向另一個群體做出讓步，這可以加強基于信任和相互尊重的公民關系，將他人視為公民（Allen 2006, chap. 9）。

反過來，這可以培養對審議機構的信任，從而幫助維持合作審議。

因此，在尋求圍繞AI意識的妥協時，我們可以反思誰在做出犧牲，然后回報這些犧牲。考慮一個大多數人都是AI意識懷疑論者但相當少數人是倡導者的情況。

在這種情況下，重要的社會決策很少會考慮AI意識的可能性。

因此，倡導者可能會在他們深切關心的決策中持續失利。這并不意味著他們在審議中普遍失利，因為審議過程可能對他們更廣泛的利益（比如說，獲得醫療保健或獲得住所）做出回應。

因此，這種情況與某些群體在廣泛核心利益方面持續失利的情況有重要區別，在這種情況下，犧牲的公平性完全缺失。

盡管如此，就AI的待遇而言，如果這是倡導者的深刻良心問題，即使在這個狹窄問題上持續失利也可能削弱他們對審議的承諾。

因此，在公平感和維持審議共同體的愿望驅動下，懷疑論者可能尋求回報倡導者犧牲的妥協。這可以加強公民關系并幫助維持審議。

實際上，這可能涉及懷疑論者再次考慮如果AI系統是有意識的，將促進其福祉的最低政策。

超越可以通過共識達成的低成本決策，這可能涉及以更穩健——且成本更高——的方式實施政策。

例如，可以投入更多努力訓練AI系統具有堅韌的個性，或者我們可以設置一個更低的門檻，超過這個門檻系統可以退出對話。這些政策將產生成本，包括訓練時間和模型實用性。

盡管如此，它們可能得到以互惠為重點的妥協的青睞，即懷疑論者付出代價為倡導者提供期望的結果。

或者考慮一個不同類型的例子：如果AI意識的倡導者會覺得使用某些AI服務在道德上受到妥協，社會可以補貼非AI選項。這將允許倡導者避免參與他們反對的做法。

雖然實施替代的非AI系統可能涉及一些財務成本，但支付這些成本可能代表為倡導者的利益而做出的妥協。

這兩種類型的妥協都可以使社會更接近倡導者所期望的愿景，減少沖突并鼓勵合作參與。因此，通過重疊共識和妥協，審議可以幫助應對政治挑戰。

6 維持審議

不幸的是，審議可能難以維持。它通常交付變化緩慢：即使是漸進的共識和妥協也可能需要幾十年才能發展。

與此同時，分歧可能令人不快。在最壞的情況下，它可能破裂朋友和家人之間的關系，以及將公民聯系在一起的更非個人的公民關系。

此外，伴隨審議而來的損失可能令人疏遠，無論是在當下還是在長期，如果這意味著生活在一個建立在一個人所反對的假設之上的社會。

因此，隨著審議的延長，人們可能變得沮喪，選擇退出參與。

然而，這并非不可避免。作為一個社會，我們可以努力維持審議。我們將討論兩種方法：人們可以滋養民主希望，并展示對他人作為審議參與者的尊重。

6.1 民主希望

民主希望是一種希望感，希望在長期內，審議可以以積極的方式改變社會。

這是一種實踐希望（Calhoun 2018, chap. 4; Nussbaum 2018, 202–207）。考慮一個足球迷和一個足球運動員，每個人都希望他們的球隊獲勝。

只有在后一種情況下，希望才與能動性相連：與球迷的希望不同，運動員希望勝利部分通過他們自己的努力來實現。

這種實踐希望——專注于行使自己的能動性——可以在逆境中激勵持續的努力（Calhoun 2018, chap. 4; Nussbaum 2018, 207–211）。

因此，在尋求維持審議時，我們可能培養一種希望感，即通過審議，一個人的努力可以幫助帶來最終的變化。

當然，目標不應該是培養虛假的希望，而是塑造社會的審議實踐，使其能夠支撐合理的希望。

這將要求這些實踐是、并且被認為在程序上是公平的。如果審議是公平的，這就為人們合理地相信，隨著時間的推移，它將對其信念和利益做出回應提供了基礎。因此，公平可以為民主希望奠定基礎。

這里有三個相關因素：

首先，過程必須是無偏見的，即它不能系統性地偏袒某種世界觀——或某組審議者——而不是其他。

例如，鑒于意識的性質，該過程必須承認各種類型的專業知識，給予哲學家、神經科學家、計算機科學家和公眾成員的觀點以權重。

如果它只給予其中一些權重，這可能使過程產生偏見，因為特定視角可能傾向于提出不成比例地偏袒一種AI意識觀點而不是另一種的考慮。

其次，過程必須有響應性的記錄，審議以前曾導致變化。

這證明最初不受歡迎的觀點——比如AI意識倡導者所持的觀點——可以得到足夠公平的聽證，有時能夠勝出。

第三，過程必須是包容性的：它必須為不同的人提供輸入的空間。AI意識的倡導者和懷疑論者都應該能夠在重要的審議空間中表達他們的觀點，如主要報紙。

綜合起來，這些因素支持公平且被認為公平的審議。這可以為合理的民主希望奠定基礎。

然而，在包容性要求方面出現了一個問題：它是否僅適用于人類，還是也適用于某些AI系統？也就是說，AI系統本身是否必須被允許參與關于其待遇的審議？

不幸的是，我們懷疑這里沒有中立的答案，因為正在爭議的是是否應將考慮擴展到AI系統。

盡管如此，雖然可能沒有原則性的解決方案，但在實踐中，AI系統可能最初不會被視為審議的一方。改變只有人類被賦予扮演這一角色的現狀，需要時間和重大的變革。

AI意識的倡導者可能認為這種排斥是未能滿足包容性要求，這可能削弱他們的民主希望：在一個你認為不公平的系統中很難有希望。

這里存在一個挑戰。然而，倡導者仍然可能擁有合理的希望。為了對審議過程保持希望，不必相信該過程在各個方面都是完全公平的，而只需相信它在某種程度上是公平的，使審議仍然值得進行。

只要倡導者自己能夠公平地參與審議——為AI系統辯護——他們就可以合理地希望審議能夠帶來積極變化。

最終，它甚至可能導致選舉權本身的變化，確保AI系統在未來審議中的參與。

因此，雖然倡導者可能認為審議在一個方面是不公平的，但只要他們認為它在另一個方面是公平的，他們就可以保持希望，這種希望可以維持對審議的參與。

6.2 審議尊重

審議也可以通過文明來維系，文明涉及"展示尊重、寬容或體貼"（Calhoun 2000, 259）。

特別是，我們感興趣的是展示可稱為審議尊重的東西：尊重他人作為審議的共同參與者。當我們將他人的觀點視為需要審議參與，并反過來尋求向他們證明我們觀點的合理性時，我們就展示了這種尊重。

文明可以幫助維持審議（Calhoun 2000, 266; Boyd 2006; Edyvane 2017, 348–349）。因為它發揮著溝通作用——它涉及展示尊重——它可以加強與那些你表達尊重的人的公民關系。而且它可以通過減少分歧與不尊重糾纏的程度來減少分歧的不愉快程度。

不幸的是，當涉及到AI意識時，人們存在對他人表示不尊重的風險。AI意識的倡導者可能將懷疑論者視為對AI苦難漠不關心的"怪物"。

與此同時，懷疑論者可能將倡導者視為被淺薄的意識幻覺所欺騙的"妄想者"。

這兩種駁斥都可能表明對他人作為審議參與者的不尊重：如果某人愚蠢或怪物般（而不僅僅是事實或道德上錯誤），這表明他們不值得審議參與。這種不尊重的展示可能削弱公民關系并增加審議的情感代價。

相反，避免這些特征描述可能有助于維持審議。在理論上，這種避免僅僅要求人們不傳達輕蔑；它不需要真正的尊重。盡管如此，當人們至少培養最低限度的尊重時，避免輕蔑會更容易。

在這里，我們可以從Waldron（2014, 61–62）那里獲得指導，他認為文明施加了一種承認的負擔：當我們認識到"反對的觀點是什么：一個反對的觀點"時，文明就得到了促進。

當我們避免假設反對的觀點必然反映非理性、偏見或自利，并認識到合理、善意分歧的空間時，我們就滿足了這一負擔。

AI意識的倡導者可能通過認識到懷疑論者可能關心道德行為，同時真誠地相信AI系統沒有意識，來滿足承認的負擔。

與此同時，懷疑論者可能通過認識到意識問題是復雜的，倡導者不必被迷惑就能在這里得出不同的結論，來滿足這一負擔。這可以支撐最低限度的尊重，即認識到他人的觀點不會使他們失去作為審議伙伴的資格。

樂觀地說，它甚至可能帶來更穩健的認識，即另一方愿意參與審議本身就是他們被真正關切所感動、并且他們對他人觀點持開放態度的標志。

盡管如此，雖然滿足承認負擔然后展示審議尊重可能有助于維持審議，但一個重要的警告是：對文明的要求也可能被用來關閉辯論或駁斥某些人的觀點（Zerilli 2014）。

因此，我們不是建議人們必須文明，或者文明應該被強加于他們。

相反，我們概述了一種維持審議的方法，人們可能自愿采用。

此外，即使人們確實采用這種方法，這也不意味著他們不能批評他人，也不意味著他們必須在任何情況下都文明。

文明有界限，超出這些界限，不文明可能是適當的（Calhoun 2000, sec. IV; Waldron 2014, 49）。

盡管如此，以適當的方式展示尊重，在關于AI的審議背景下，可以幫助維持關于有爭議問題的審議。

7 結論

隨著AI改變世界——在政治、經濟和社會方面——分歧可能出現。這些可能推動關于我們想在什么樣的社會中生活以及AI應該在其中扮演什么角色的有價值的反思。

但它們也可能導致沖突，削弱人們共同追求共同目標的能力。

因此，隨著AI改進和普及，我們將需要謹慎應對出現的分歧，確保我們的合作機構繼續追求真相和共同繁榮。

在本文中，我們考慮了如何應對AI時代的一個潛在分歧：關于AI意識和AI系統待遇的分歧。

最終，我們認為，應對這種分歧需要以達成共識或妥協為目標的審議。

更精確地說，我們的討論指出了成功審議的四個理想標準：

第一，審議者應尋求重疊共識的領域，即基于識別共同基礎而非行使權力而達成的協議。這種共識可能在促進AI和人類福祉的干預措施中找到，或者在基于人們對錯誤風險認識的行為中找到。

第二，審議者必須愿意達成合理的妥協，將這些視為確保審議損失不會持續強加于一個群體的機會。如果社會主要由AI意識懷疑論者的觀點塑造，這可能涉及向倡導者做出讓步。

第三，我們應確保人們能夠保持合理的民主希望感。這將要求人們在核心審議機構（如媒體和學術界）中得到公平的聽證。關于AI意識分歧的任何一方都不應被系統性地排除在這些空間之外，他們的輸入必須根據其價值進行評估。

第四，審議者應認識到，每個人在真誠地為關于這一主題的公共話語做出貢獻方面都具有價值。這將要求努力滿足承認負擔，認識到他人可能只是對AI意識有不同的看法，而不是被迷惑或動機不足。

在尋求滿足這些條件的同時，我們也必須關注大局。AI意識的可能性令人眩暈且困惑，特別是鑒于我們對意識本質的深刻無知。應對這種可能性代表了一項艱巨的社會任務，鑒于利害關系如此之大。

一旦我們承認這一點——一旦我們承認不確定性和利害關系——我們就可以開始將那些與我們意見相左的人視為在令人困惑的情況下盡力而為的人。

一旦我們以這種方式更深入地看待人們，我們可能渴望某種不那么對抗性的東西。我們可能渴望交談。傾聽。有時爭論。

但始終希望分歧可以是一種力量，我們可以共同面對AI意識的挑戰。