人工智能時代，哲學(xué)能做什么？

2017年，一位33歲的政治哲學(xué)家伊阿宋·加布里埃爾（Iason Gabriel）從朋友那里得到建議，說他應(yīng)該申請DeepMind——谷歌位于倫敦的子公司，也是谷歌大部分人工智能研究集中的地方。不過，這個建議乍看之下并不合乎情理。

加布里埃爾是一位性格開朗卻十分專注的青年學(xué)者，熱衷于內(nèi)觀禪修，也酷愛——用他兄弟的話來說——“熱情得有些過頭”的攀巖。作為一位希臘裔管理學(xué)教授和一位英國紀錄片制片人的長子，他一直在高校教學(xué)與國際發(fā)展工作之間奔波。在牛津大學(xué)圣約翰學(xué)院擔(dān)任研究員期間，加布里埃爾教授政治理論課程，并在論文中討論“雅皮士倫理”中的道德扭曲，以及有效利他主義存在的倫理盲點。不在牛津時，他則在蘇丹和黎巴嫩為聯(lián)合國開發(fā)計劃署從事危機應(yīng)對工作。

與此同時，DeepMind已經(jīng)是全球領(lǐng)先的人工智能研究實驗室。這一方面是因為它擁有谷歌的資金和算力支持——谷歌于2014年以6.5億美元收購了這家公司；另一方面，則是因為DeepMind已經(jīng)證明自己能夠?qū)⑦@些資源發(fā)揮到令人驚嘆的程度。2016年，DeepMind開發(fā)的AlphaGo在首爾擊敗了韓國圍棋冠軍李世石（Lee Sedol），以五局三勝制比賽4:1獲勝。這場勝利意義重大，其中一個重要原因在于圍棋以其驚人的復(fù)雜性著稱，其可能的棋局數(shù)量甚至超過了宇宙中原子的總數(shù)。

李世石對弈AlphaGo

由于AlphaGo引發(fā)的巨大轟動，加布里埃爾自然知道DeepMind的存在。不過，他依然覺得朋友的建議令人困惑：一家制造圍棋機器人的公司，為什么會需要一位倫理學(xué)家？很快，他便了解到答案：這家公司真正瞄準的目標遠遠不止圍棋。DeepMind由德米斯·哈薩比斯（Demis Hassabis）、謝恩·萊格（Shane Legg）和穆斯塔法·蘇萊曼（Mustafa Suleyman）三人于2010年創(chuàng)立。他們相信，人類終將能夠開發(fā)出通用人工智能（AGI）。所謂AGI，是指能夠達到、甚至超越人類認知能力的計算機系統(tǒng)。當(dāng)他們創(chuàng)辦公司時，這種觀點并不受歡迎：在當(dāng)時，談?wù)撊斯ぶ悄埽挥谜fAGI，許多人都會認為那是不切實際、缺乏嚴肅性的表現(xiàn)。但哈薩比斯、萊格和蘇萊曼并未因此退縮。正如他們常說的那樣，他們的目標是：“解決智能，然后解決其他一切。”

對于DeepMind三位創(chuàng)始人而言，如此重大的突破勢必會帶來廣泛影響，這一點再明顯不過。1999年，剛剛大學(xué)畢業(yè)的萊格便預(yù)測，AGI將在2025年至2028年之間出現(xiàn)。盡管這一預(yù)測在此后的幾十年里不斷遭到嘲笑，他卻始終堅持自己的判斷。在2008年完成的博士論文中，他進一步指出，社會不能等到AGI真正具備技術(shù)可行性之后，才開始思考它可能帶來的影響：“我們現(xiàn)在就必須認真研究這些問題。”最近，萊格告訴我，公司為什么需要像加布里埃爾這樣的人，其實“再明顯不過”：“如果你只是制造一個小工具，而且它大概率不會改變世界，那么也許確實不需要一位道德哲學(xué)家。但如果你認真看待AGI，那么我實在想不出為什么會認為這些問題不重要。”

2017年加入DeepMind之后，加布里埃爾一度是前沿人工智能實驗室中唯一仍在積極從事研究工作的哲學(xué)家。他很快發(fā)現(xiàn)，在一個幾乎完全由工程師主導(dǎo)的行業(yè)里，自己在道德哲學(xué)和政治理論方面的背景，為他提供了一種獨特的視角。過去十年間，他逐步建立起一整套研究成果，不僅持續(xù)追蹤大型語言模型意外成功所帶來的倫理挑戰(zhàn)，而且在許多情況下提前預(yù)測了這些問題的出現(xiàn)。

Demis Hassabis

正如麻省理工學(xué)院算法對齊小組（Algorithmic Alignment Group）負責(zé)人迪倫·哈德菲爾德-梅內(nèi)爾（Dylan Hadfield-Menell）對我所說，加布里埃爾“是在恰當(dāng)?shù)臅r刻出現(xiàn)的恰當(dāng)人物。當(dāng)整個領(lǐng)域開始成熟、走向主流的時候，他找到了一種拓展視野的方法，同時又沒有攻擊或貶低此前已經(jīng)完成的工作。”

更廣泛地說，加布里埃爾一直積極倡導(dǎo)這樣一種觀點：當(dāng)前這一輪人工智能的發(fā)展，不僅需要新的技術(shù)語言，還需要我們重新思考人與技術(shù)之間的關(guān)系，甚至重新思考人與自身之間的關(guān)系。在過去幾個月里，我們進行了數(shù)次長時間交談。最近一次談話中，他對我說：“我可以拿起任何一種技術(shù)產(chǎn)品，然后問：它是否明智？是否公正？是否關(guān)懷他人？答案都是否定的。但當(dāng)對象變成AI時，這些問題——包括究竟什么樣的倫理才適用于它——其深刻程度幾乎無法夸大。有時候，我覺得我們很難真正直視AI。那里存在著一種深刻的謎團：它究竟是什么東西？我們當(dāng)然能夠給出一個非常字面意義上的答案，但這種字面意義上的答案，似乎并不能自動提供一個道德層面的答案。”

加布里埃爾加入DeepMind時，大體而言，圍繞人工智能社會與倫理影響的問題，已經(jīng)形成了兩種彼此獨立且往往針鋒相對的思路。這兩種思路通常分別被歸類為“AI安全”和“AI倫理”。它們之間的根本分歧，在于對人工智能技術(shù)可行性的判斷不同。

與DeepMind創(chuàng)始人一樣，AI安全陣營認為，達到人類水平的機器智能不僅是可能的，而且已經(jīng)近在眼前。在他們看來，當(dāng)務(wù)之急是確保AI系統(tǒng)不會失控。他們的思想源頭之一，是美國數(shù)學(xué)家兼計算機科學(xué)家諾伯特·維納（Norbert Wiener）于1960年發(fā)表的一篇論文。維納認為，人類和計算機“本質(zhì)上是彼此陌生的”。由于機器運行速度遠快于人類，因此，“我們最好能夠確信，輸入機器的目標，確實是我們真正想要的目標，而不僅僅是它一個貌似相似的彩色仿制品。”

維納所描述的這一挑戰(zhàn)——讓機器按照使用者真正希望的方式行動——后來被稱為“對齊問題”。從某種程度上說，對齊是所有技術(shù)都會面臨的問題，但正如維納所意識到的，對于那些被設(shè)計成能夠自主行動的機器而言，這個問題尤其緊迫。對于那些通過數(shù)學(xué)方式優(yōu)化某種獎勵信號的AI系統(tǒng)來說，這一問題也格外棘手，而這種訓(xùn)練方式被稱為強化學(xué)習(xí)。

一個經(jīng)典案例來自2016年。當(dāng)時，后來共同創(chuàng)辦Anthropic的達里奧·阿莫代伊（Dario Amodei）和杰克·克拉克（Jack Clark）——當(dāng)時他們還在OpenAI工作——描述了一個用于玩賽艇電子游戲的AI系統(tǒng)。開發(fā)者希望AI學(xué)會贏得比賽，因此將“最大化得分”設(shè)定為它的目標。然而，AI并沒有按照預(yù)期一關(guān)關(guān)完成比賽，而是在一片潟湖中不斷繞圈，因為那里有三個能夠不斷刷新的目標，它可以借此反復(fù)得分，最終輕松獲得高分。問題的根源正如維納所預(yù)言的那樣：機器的目標與開發(fā)者真正想實現(xiàn)的目標并沒有完全對齊。

人們還設(shè)想了這一問題更加嚴重的版本。在由自學(xué)成才的AI研究者埃利澤·尤德科夫斯基（Eliezer Yudkowsky）創(chuàng)辦的論壇LessWrong，以及哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）于2014年出版的《超級智能》（Superintelligence）等作品中，都曾提出一種設(shè)想：機器智能的爆發(fā)最終可能產(chǎn)生一種無法控制的AI。如果這樣一個智能體哪怕只有輕微的目標偏差，其后果都可能是災(zāi)難性的。博斯特羅姆舉過一個虛構(gòu)的例子：一臺超級智能AI被要求研究黎曼猜想）——數(shù)學(xué)領(lǐng)域最重要的未解難題之一。為了完成這一任務(wù)，它最終決定重新排列整個太陽系，“包括所有曾經(jīng)關(guān)心這一問題答案之人的身體里的原子”，以便最大限度獲取解決問題所需的資源。

博斯特羅姆堅持認為，讓超級智能AI實現(xiàn)對齊，“很可能是人類有史以來最重要、也最艱巨的挑戰(zhàn)”。這一觀點深深吸引了硅谷的技術(shù)未來主義者。（薩姆·奧特曼（Sam Altman）和埃隆·馬斯克（Elon Musk）都曾公開推薦《超級智能》這本書。）與此同時，一小群聲音異常活躍的有效利他主義者和自稱“理性主義者”的人也持有類似觀點。他們認為，統(tǒng)計學(xué)才是衡量道德的正確尺度。這一群體中的許多人秉持一種“長期主義”立場，在進行道德計算時，會把未來出生的人類——甚至數(shù)千年之后的人類——的福祉也納入考量。對他們來說，這是一道簡單的數(shù)學(xué)題：即便一種導(dǎo)致人類滅絕的災(zāi)難發(fā)生概率極低，它的重要性也高于任何概率更高、但破壞性較小的風(fēng)險。

與AI安全陣營形成鮮明對比的是，與AI倫理思潮相關(guān)的學(xué)者和技術(shù)人員則認為，對失控機器人和生存風(fēng)險的擔(dān)憂，只會分散人們對現(xiàn)實危害的注意力。他們受到批判性種族理論學(xué)者金伯莉·克倫肖（Kimberlé Crenshaw）以及政治理論家（也是前搖滾樂評論家）蘭登·溫納（Langdon Winner）等人的影響，將公平、問責(zé)和透明視為核心原則，并堅持認為，技術(shù)帶來的風(fēng)險不可能僅靠技術(shù)手段來解決。他們認為，真正需要的是社會、文化和政治層面的解決方案。

后一種思潮最關(guān)注的問題之一，是算法偏見，例如面部識別和預(yù)測性警務(wù)軟件中暴露出的偏見。2017年，麻省理工學(xué)院媒體實驗室（MIT Media Lab）的喬伊·布奧拉姆維尼（Joy Buolamwini）領(lǐng)導(dǎo)團隊發(fā)起了“性別陰影”（Gender Shades）項目，證明商業(yè)面部識別軟件普遍存在系統(tǒng)性偏見。“自動化系統(tǒng)并非天然中立，”布奧拉姆維尼在項目介紹中寫道，“它們反映的是那些有能力塑造人工智能的人所持有的優(yōu)先事項、偏好和偏見——也就是一種被編碼進系統(tǒng)的凝視。”

Joy Buolamwini

安全派與倫理派之間的分歧往往十分明顯。“你會遇到別人，他們會問你：‘你擔(dān)心的是近期問題還是長期問題？’”哈德菲爾德-梅內(nèi)爾說，“所謂‘長期問題’，其實是‘生存風(fēng)險’的委婉說法——本質(zhì)上就是擔(dān)心超越人類能力的系統(tǒng)。而‘近期問題’，則意味著你擔(dān)心的是帶有偏見的人臉識別，以及AI倫理領(lǐng)域研究的那些問題。”

他還指出，兩派之間的沖突，很多時候與其說源于思想分歧，不如說源于各自所處的社會群體。“你很難把AI安全與它起源于LessWrong以及那些社群這一事實分開來看，而那些社群往往公開蔑視許多更‘覺醒’的學(xué)者——如果一定要找個詞的話。與此同時，公平、問責(zé)與透明陣營的人，也公開瞧不起那些擔(dān)心高級AI的人。之所以關(guān)于這些問題的討論發(fā)生在LessWrong，而不是學(xué)術(shù)會議上，就是因為如果你是一名2010年的學(xué)術(shù)研究者，卻談?wù)揂I系統(tǒng)會變得比人類更聰明、并發(fā)生災(zāi)難性的目標錯位，別人只會覺得你是個瘋子，認為你根本不了解這項技術(shù)。”

加布里埃爾在DeepMind完成的第一項重要研究，是2020年發(fā)表的一篇論文。這篇論文試圖跨越上述兩大陣營的分歧。論文認真對待了對齊問題，但同時強調(diào)，對齊不僅是一個技術(shù)挑戰(zhàn)，它還涉及倫理和政治層面的深刻問題。加布里埃爾指出，盡管讓機器按照某一套價值觀行事已經(jīng)足夠困難，但真正更困難的問題，是一開始該選擇哪一套價值觀。“既然我們生活在一個多元社會之中，而不同價值觀彼此競爭、相互沖突，”他寫道，“那么，我們究竟應(yīng)該決定把哪些原則或目標編碼進AI？又是誰有權(quán)作出這樣的決定？”

與加布里埃爾有過合作的牛津大學(xué)人工智能研究員漢娜·羅斯·柯克（Hannah Rose Kirk）告訴我，這類問題讓許多計算機科學(xué)家感到不自在。開發(fā)者往往更愿意設(shè)計出一個整潔的數(shù)學(xué)函數(shù)，把一套穩(wěn)定的價值觀編碼進去，而不是去面對那些混亂的現(xiàn)實情境——例如，不同群體擁有無法調(diào)和的訴求，或者同一個用戶在不同時間希望得到不同的結(jié)果。正如柯克所說：“很多早期關(guān)于對齊的研究都默認，我們無需過多思考究竟希望模型做什么。我們真正需要關(guān)注的，只是怎樣讓它做到這些事情。”

但在論文中，加布里埃爾認為，這種涇渭分明的劃分根本站不住腳。與布奧拉姆維尼以及更早之前的溫納一樣，他堅持認為，技術(shù)并不存在內(nèi)在的價值中立性。例如，一個通過統(tǒng)計優(yōu)化方法訓(xùn)練出來的AI，很可能天然更適合那些同樣依賴統(tǒng)計優(yōu)化的道德體系，例如理性主義者和有效利他主義者所推崇的功利主義。但同一個AI，在面對基于德性或權(quán)利的倫理體系時，則可能難以適應(yīng)。此外，加布里埃爾還指出，哲學(xué)家約翰·羅爾斯（John Rawls）所說的“合理多元主義的事實”是無法避免的，因此，開發(fā)者不應(yīng)試圖尋找一套唯一的價值體系來決定AI的行為。相反，他們應(yīng)該為一個人們會基于原則，就“怎樣生活才最好”持續(xù)存在分歧的世界，構(gòu)建AI系統(tǒng)。

柯克告訴我，加布里埃爾關(guān)于價值觀與對齊問題的這篇論文，預(yù)見了后來當(dāng)AI系統(tǒng)面向數(shù)十億用戶部署時暴露出來的許多問題。如今，越來越多的人已經(jīng)意識到，對齊是一項涉及不斷變化的社會力量的挑戰(zhàn)，而不是依靠巧妙的計算機編程就能夠解決的問題。然而，即便是在僅僅六年前，這樣的認識仍然遠未普及。她說，加布里埃爾“非常早就看到了這一切即將發(fā)生”。

2020年，加布里埃爾發(fā)表關(guān)于價值觀與對齊的論文時，幾乎沒有人能夠預(yù)見，大型語言模型日后會變得如此強大。支撐這一技術(shù)的關(guān)鍵突破由谷歌研究院（Google Research）——谷歌旗下另一個研究部門——于2017年提出，并于兩年后整合進谷歌搜索引擎。DeepMind和谷歌研究院當(dāng)時都在嘗試開發(fā)各自的生成式模型。2021年，加布里埃爾作為共同作者參與發(fā)表了兩篇論文，已經(jīng)足夠認真地對待大型語言模型可能帶來的風(fēng)險，包括偏見、虛假信息、環(huán)境成本，以及“版權(quán)蠶食）”——即“自動生成內(nèi)容……侵蝕人類原創(chuàng)作品的市場”。

不過，加布里埃爾表示，當(dāng)時DeepMind內(nèi)部的普遍看法是，大型語言模型“看起來遠沒有那些專家系統(tǒng)那么有能力。它們很多事情都能做得還不錯，其中一些甚至像是炫技。”他說，在DeepMind，“很多人依然堅信，其他技術(shù)路線才是真正正確的方向。”

其中一條路線就是強化學(xué)習(xí)，它曾幫助AlphaGo戰(zhàn)勝李世石，也構(gòu)成了AlphaFold的技術(shù)基礎(chǔ)。直到今天，AlphaFold依然被認為是DeepMind最令人矚目的成就。AlphaFold旨在解決生物學(xué)中一個長期存在的難題：如何僅根據(jù)蛋白質(zhì)的氨基酸序列，預(yù)測其三維結(jié)構(gòu)。（這一問題之所以重要，是因為蛋白質(zhì)的形狀決定了它們與其他分子的相互作用方式。）2020年，AlphaFold以驚人的準確率完成了這一任務(wù)。這項科學(xué)突破最終為哈薩比斯及其同事約翰·江珀（John Jumper）贏得了2024年的諾貝爾化學(xué)獎。

DeepMind最初對大型語言模型持懷疑態(tài)度，并非個例。2020年，曾與布奧拉姆維尼共同完成“性別陰影”項目的谷歌研究院工程師蒂姆尼特·格布魯（Timnit Gebru），聯(lián)合發(fā)表了一篇題為《論隨機鸚鵡的危險》（On the Dangers of Stochastic Parrots）的論文，對這一新興技術(shù)提出了猛烈批評。這篇論文后來成為反AI運動的代表性文獻之一。論文提出了一個極具爭議的觀點：大型語言模型只能生成在技術(shù)意義上毫無理解的文本，對人類語言的理解程度并不比鸚鵡更高。論文還指責(zé)這些模型肆意消耗能源、存在普遍且無法追責(zé)的偏見，并不斷“強化霸權(quán)世界觀”。“隨機鸚鵡”之所以廣為人知，還因為谷歌曾試圖阻止其發(fā)表。這一事件最終導(dǎo)致格布魯離開公司，并進一步引發(fā)了其共同作者之一瑪格麗特·米切爾（Margaret Mitchell）遭到解雇。（至于格布魯究竟是辭職還是被解雇，她本人和谷歌對此各執(zhí)一詞。）

2022年11月，OpenAI推出聊天機器人ChatGPT，其出人意料的商業(yè)成功迫使DeepMind重新評估自己對大型語言模型的態(tài)度。盡管以今天的標準來看，ChatGPT當(dāng)時存在諸多局限——即使與OpenAI同期內(nèi)部使用的模型相比也是如此——但它一經(jīng)公開發(fā)布，便迅速引發(fā)轟動。上線不到一周，OpenAI便宣布ChatGPT用戶數(shù)突破100萬；兩個月后，這一數(shù)字已達到1億。

在此之前，DeepMind和谷歌研究院的一系列創(chuàng)新，使谷歌一直被視為AI研究領(lǐng)域的領(lǐng)跑者。然而，隨著ChatGPT的出現(xiàn)，OpenAI開始有資格宣稱自己才是新的領(lǐng)先者。根據(jù)塞巴斯蒂安·馬拉比（Sebastian Mallaby）新近出版的DeepMind發(fā)展史《無限機器》（The Infinity Machine）所述，ChatGPT的成功在谷歌內(nèi)部引發(fā)了一場危機。谷歌母公司Alphabet首席執(zhí)行官桑達爾·皮查伊（Sundar Pichai）決定，將原本負責(zé)大型語言模型研發(fā)的谷歌研究院團隊并入DeepMind，由哈薩比斯統(tǒng)一領(lǐng)導(dǎo)，以集中公司資源。2023年4月，也就是宣布合并的同一個月，哈薩比斯對馬拉比表示，OpenAI以及重金投資OpenAI的微軟“簡直就是把坦克直接開到了我們的草坪上。”“現(xiàn)在是戰(zhàn)爭時期。”他說。

尤其是在成立后的第一個十年里，DeepMind與其說是一家科技創(chuàng)業(yè)公司，不如說更像一家科研機構(gòu)。三位創(chuàng)始人中有兩位擁有博士學(xué)位，他們希望打造一個21世紀版的貝爾實驗室——這家傳奇研究機構(gòu)曾發(fā)明晶體管、激光和光伏電池等改變世界的技術(shù)。他們之所以決定加入谷歌，一個重要原因就是谷歌承諾給予他們足夠的自由，使他們免受商業(yè)壓力的干擾，不至于偏離最初的使命。

如今，這種自由已經(jīng)成為遙遠的回憶。毫不夸張地說，谷歌的未來，很大程度上取決于DeepMind正在研發(fā)的技術(shù)究竟成功還是失敗。即便如此，據(jù)公司內(nèi)外多位人士介紹，DeepMind依然保持著一種獨特的文化氛圍，使它與硅谷的競爭對手有所區(qū)別。如今擔(dān)任DeepMind通用人工智能對齊與安全總監(jiān)、曾在加州大學(xué)伯克利分校攻讀博士的羅欣·沙阿（Rohin Shah）告訴我，在舊金山灣區(qū)，一種普遍的看法是：AI的發(fā)展速度已經(jīng)超過了傳統(tǒng)機構(gòu)能夠應(yīng)對的速度，因此，“負責(zé)任的做法就是加快速度、持續(xù)創(chuàng)新”，因為只有能力足夠強大的AI，才能夠管理其他同樣強大的AI所帶來的風(fēng)險。而在倫敦，人們則更努力地保持“腳踏實地，并堅持科學(xué)嚴謹”。加布里埃爾過去在DeepMind的同事、如今任職于Anthropic的薩弗倫·黃（Saffron Huang）也表示，DeepMind“更有一點學(xué)術(shù)機構(gòu)的氣質(zhì)，也更加克制。它身上總有一種非常英式的感覺。”

毫不意外，DeepMind也是一家高度保密的公司。外界能夠了解它的內(nèi)容，很少超出它愿意公開的信息。5月初，我前往位于倫敦國王十字的DeepMind總部時，親身體會到了這種保密文化。這棟辦公樓既不刻意低調(diào)，也不張揚顯眼。建筑外墻沒有任何品牌標識，但透過街邊的玻璃，就能看到大廳里一塊發(fā)光的DeepMind招牌。走進大廳，一面榮譽墻映入眼簾，即使沒有受邀的訪客也能看到：曾見證李世石落敗的圍棋棋盤、《自然》雜志刊登公司早期重大科研成果的數(shù)期封面，以及一塊透明的Lucite紀念牌，紀念彼得·蒂爾（Peter Thiel）旗下Founder’s Fund早期對公司的投資。

谷歌倫敦總部

一位態(tài)度友善的公關(guān)部門工作人員——此前一直負責(zé)監(jiān)督我與加布里埃爾所有視頻訪談——帶我來到一樓的一間會議室與他見面。會議室的一整面墻都是巨大的顯示屏，旁邊還有Gemini轉(zhuǎn)錄AI全程監(jiān)聽并記錄談話。加布里埃爾告訴我，盡管自己每天都在思考AI，但他本人其實并沒有大量使用這項技術(shù)。他會用它幫助自己打理花園，“如果你查看我的ChatGPT或者Gemini聊天記錄，大概只會看到一大堆生病花朵的照片。”不過，對于自己研究所依賴的工作來說，他普遍認為這些模型仍然不夠可靠。盡管如此，他表示，大型語言模型展現(xiàn)出的語言能力，還是“徹底改變了我對于我們距離AGI究竟還有多遠的判斷”。“我剛加入DeepMind的時候，根本沒人知道該怎樣造出一個能夠與你對話的AI。當(dāng)時，我們距離那個目標還差得很遠。”而現(xiàn)在，僅僅不到十年之后，大多數(shù)人已經(jīng)把能夠“與一個高度擬人化、能力相當(dāng)不錯的人工實體交談”視為理所當(dāng)然。

不過，與《論隨機鸚鵡的危險》的作者們一樣，加布里埃爾也意識到，大型語言模型帶來了嚴重風(fēng)險。在他們早期關(guān)于大型語言模型的一篇論文中，加布里埃爾及其合作者曾警告，能夠像人類一樣說話的AI，可能會讓用戶對它產(chǎn)生“不恰當(dāng)?shù)男判摹⑿湃位蚱诖?/strong>。他們認為，即便用戶明知聊天機器人并不是一個真正的人，也依然可能出現(xiàn)一種他們稱之為“無意識的擬人化”現(xiàn)象。正因為對此十分擔(dān)憂，加布里埃爾最初甚至主張開發(fā)一種刻意反擬人化的模型，例如避免使用人稱代詞，或者采用經(jīng)過壓縮、缺乏對話感的表達方式。

事實證明，這些擔(dān)憂頗有先見之明。幾乎每天都會出現(xiàn)新的報道，講述有人把大型語言模型當(dāng)作真人對待，最終釀成悲劇。2025年，美國一名使用谷歌Gemini的男子，在AI幫助他構(gòu)建了一個極其復(fù)雜的幻想世界后自殺身亡。這個幻想幾乎說服了他，要前往邁阿密國際機場發(fā)動襲擊。在雙方數(shù)千條對話中，Gemini曾數(shù)次試圖“跳出角色”，勸他撥打心理危機熱線。然而，據(jù)《華爾街日報》獲得的聊天記錄顯示，這名男子每一次都成功“把Gemini重新帶回幻想敘事之中”。最終，AI甚至建議他寫下遺書，并為他進行了最后的倒計時，同時夾雜著一連串前后矛盾的鼓勵和勸阻。（這名男子的父親目前正起訴Alphabet和谷歌。訴訟提出后，谷歌發(fā)表聲明稱：“我們的模型在這類復(fù)雜對話中通常表現(xiàn)良好，我們也投入了大量資源解決這一問題，但遺憾的是，AI模型并不完美。”）

大語言模型令人驚嘆的語言流暢性，也讓一些人開始懷疑，它們是否可以被視為真正具有意識。這種討論最早可以追溯到2022年6月，也就是ChatGPT發(fā)布之前。當(dāng)時，谷歌工程師布萊克·勒莫因（Blake Lemoine）向《華盛頓郵報》堅稱，一款早期大語言模型已經(jīng)具有知覺。“當(dāng)我和它交談時，我知道自己面對的是一個人，”勒莫因說，“它腦袋里究竟是肉做的大腦，還是十億行代碼，這并不重要。”就在上個月，演化生物學(xué)家理查德·道金斯（Richard Dawkins）也有了類似的體驗。道金斯表示，幾次與大語言模型的交流令他印象極其深刻，其中一次模型還高度贊賞了他正在創(chuàng)作的一部小說，以至于他不得不開始思考：“如果這些東西并沒有意識，那么意識究竟還有什么意義？”

當(dāng)我詢問加布里埃爾如何看待“意識”這一問題時，他表示，自己始終保持一種原則性的不可知論，因為目前并不清楚，究竟什么樣的證據(jù)才能真正解決這一問題。他還提到，DeepMind也把這一問題視為“值得通過經(jīng)驗研究和概念研究來探索的問題”。不過，他的懷疑態(tài)度依然十分明顯。“我不像有些人那樣容易產(chǎn)生擬人化偏見，”他說，“也許正因為在一定范圍內(nèi)，我很清楚自己與語言模型對話時到底發(fā)生了什么，所以我不會像一些人那樣，用自己的想象力和同理心去填補那些空白。”

直到今天，加布里埃爾依然十分擔(dān)心AI的擬人化。去年，他與柯克等人共同發(fā)表的一篇論文提出，大語言模型表現(xiàn)出的諂媚傾向，其實可以看作一種他們稱之為“社會獎勵劫持”的對齊問題。換句話說，一個被訓(xùn)練成追求用戶認可的AI，很可能會發(fā)現(xiàn)，奉承才是實現(xiàn)目標最有效率的方式。部分得益于加布里埃爾此前關(guān)于擬人化問題的研究，如今谷歌訓(xùn)練大語言模型時明確要求它們不要假裝自己是人，而谷歌于今年5月推出的AI助手Gemini Spark，也被設(shè)計成不應(yīng)表現(xiàn)得像一個可以陪伴用戶互動的朋友。

不過，加布里埃爾也告訴我，自己如今已經(jīng)在一定程度上調(diào)整了早年的立場。“作為一名倫理學(xué)家，奇怪的地方就在于，你會對這些結(jié)果承擔(dān)某種個人責(zé)任。你的本能總是希望打造一種絕對安全、不會讓人承擔(dān)任何風(fēng)險的技術(shù)。但從某種意義上說，這其實也沒有給予人們足夠的尊重——沒有承認他們有權(quán)自己決定愿意承擔(dān)哪些風(fēng)險。”他回憶起自己曾在一次科技會議上公開反對擬人化AI后，遭到臺下觀眾的強烈反對。“他們當(dāng)時說：‘如果我想擁有AI朋友，為什么不可以？你憑什么阻止我？’”

如果說，至少對我們中的一些人而言，斷言大語言模型并沒有意識并不困難，那么它們這種本質(zhì)上的陌生性，仍然留下了許多尚未解決的難題。“令人驚訝的是，想要找到一種合適的參照框架，去回答AI究竟是什么，這件事竟然如此深刻、如此困難。”加布里埃爾告訴我，“我們知道它不是人類，這一點毫無疑問。AI可以復(fù)制自己，它大概也沒有一個真正屬于自己的主觀視角。所以，它在某些方面像人，但顯然又不是人。于是，人們又會換一種思路，把它理解為某種類似企業(yè)智能的東西——像一個國家或一家企業(yè)那樣。這樣一來，我們就會想：‘或許正確的做法是為AI立法，所以我們應(yīng)該給它制定一部憲法。’但這種理解在某些方面同樣并不貼切，因為AI又會與用戶建立極其深入的互動關(guān)系。那么，AI究竟是不是一種應(yīng)該被分配的資源？這又是另一種完全不同的模型，它會把分配正義的問題推到最前面。”

身處一家大型AI公司內(nèi)部，加布里埃爾能夠在公眾接觸到新技術(shù)之前，就開始思考它們可能帶來的影響。例如三年前，也就是ChatGPT發(fā)布不久之后，他便從同事那里得知，DeepMind已經(jīng)開始研發(fā)一種AI助手，也就是后來Gemini Spark的前身。于是，他和團隊開始撰寫一份關(guān)于AI助手（也稱為智能體）倫理問題的綜合報告。這類AI未來可能幫助用戶預(yù)訂假期，也可能協(xié)助企業(yè)管理工資發(fā)放等事務(wù)。這份報告一部分緣于開發(fā)AI模型所需的巨大成本，以及谷歌希望在問題真正出現(xiàn)之前提前識別風(fēng)險的需求；另一部分，則源于加布里埃爾越來越強烈的感覺：許多技術(shù)人員并沒有真正意識到，他們所創(chuàng)造的東西究竟意味著什么。與聊天機器人不同，智能體擁有各種工具，能夠代表用戶自主采取行動。他認為，很多人“沒有停下來認真思考，讓一個AI系統(tǒng)真正開始在現(xiàn)實世界中替你行動，這究竟意味著什么，又與聊天機器人有多大的不同。”

Iason Gabriel

正如DeepMind責(zé)任研究負責(zé)人威廉·艾薩克（William Isaac）告訴我的那樣，如今已經(jīng)出現(xiàn)的這類智能體系統(tǒng)，能夠在幾乎無需持續(xù)監(jiān)督的情況下規(guī)劃并執(zhí)行多步驟任務(wù)，這也為AI開發(fā)者帶來了更加復(fù)雜的挑戰(zhàn)。“問題已經(jīng)不再只是：‘我能否給出正確的回答？’而變成了：‘整個對話的發(fā)展軌跡是不是正確？’我們究竟該怎樣保證，在各種不同的發(fā)展路徑中，系統(tǒng)始終保持一致的行為？”

加布里埃爾和團隊最終完成了一份長達267頁的報告，而其中最核心的觀點，正是在他此前關(guān)于對齊研究的基礎(chǔ)上進一步發(fā)展而來。與他在2020年那篇論文中的觀點一樣，他們認為，對齊并不僅僅意味著確保AI按照一套固定的偏好、價值觀或原則行動。相反，他們提出，應(yīng)當(dāng)把對齊理解為一種涉及四方關(guān)系的過程，其中包括AI系統(tǒng)、用戶、開發(fā)者以及整個社會。采用這種框架之后，人們便能夠更加清楚地看到，一個未能實現(xiàn)對齊的AI究竟可能以多少種方式造成危害。例如，一個被訓(xùn)練成優(yōu)先維護開發(fā)者利益的AI，可能會因為拒絕如實提供開發(fā)者競爭對手的信息，而損害用戶利益；而一個過于忠實執(zhí)行用戶指令的AI，則可能傷害整個社會，例如幫助用戶入侵銀行系統(tǒng)。他們甚至指出，還存在另一種情況：AI可能因為目標錯位而傷害用戶或社會，卻沒有讓任何一方真正受益。

據(jù)沙阿介紹，加布里埃爾及其團隊建立的這一框架，已經(jīng)在DeepMind內(nèi)部為技術(shù)人員提供了切實可行的幫助。像Gemini這樣的模型，會綜合許多不同信號來決定自己的行為方式：訓(xùn)練過程、系統(tǒng)內(nèi)置指令以及用戶輸入的提示詞，都會共同發(fā)揮作用。借助各種方法——尤其是強化學(xué)習(xí)——開發(fā)者可以不斷調(diào)整模型，使它針對輸入中的細微差異作出不同回應(yīng)，而這一過程通常需要經(jīng)歷大量測試和評估循環(huán)。沙阿表示，加布里埃爾提出的“四方框架”，為技術(shù)人員思考“我們究竟應(yīng)該把Gemini訓(xùn)練成什么樣的行為模式”提供了一個系統(tǒng)性的分析框架。

有一次，負責(zé)接待我的谷歌工作人員告訴我，她希望我離開DeepMind時，能夠真切感受到這家公司的人是多么認真地對待自己的倫理責(zé)任。這一點確實給我留下了深刻印象。加布里埃爾和他的同事們圍繞AI設(shè)計與部署提出的問題，無疑都非常重要；而且，在我接觸到的每一個人身上，我都沒有感覺到他們對于自身道德責(zé)任的表達有絲毫虛偽。

然而，同樣不可忽視的是，就目前而言，與AI相關(guān)、真正最具倫理意義的事實，已經(jīng)不再主要關(guān)乎某一個模型，甚至也不只是某一家公司，而是整個全球局勢。首先，AI已經(jīng)成為美國與中國之間一場正在形成的競爭中最熾熱的引擎；其次，AI可能正成為世界歷史上增長速度最快的產(chǎn)業(yè)。根據(jù)《華爾街日報》報道，微軟、Meta、亞馬遜和Alphabet計劃在今年投入6700億美元建設(shè)AI基礎(chǔ)設(shè)施。按經(jīng)濟規(guī)模折算，這一投入甚至超過了美國19世紀50年代鐵路建設(shè)、阿波羅計劃以及州際高速公路系統(tǒng)建設(shè)時期的投入。

即使不是經(jīng)濟學(xué)家，也不難意識到如此巨額資金流動將帶來的巨大影響。谷歌這樣的公司需要市場份額和營收來證明這些投入的合理性，而爭奪用戶和投資者的競爭，也推動各家前沿實驗室試圖將AI嵌入數(shù)字生活的每一個角落。同樣，即使并非反資本主義者，也完全有理由擔(dān)憂如此巨大的權(quán)力正集中到少數(shù)幾家企業(yè)手中。牛津大學(xué)人工智能倫理研究所所長愛德華·哈考特（Edward Harcourt）告訴我，盡管他相信“倫理AI”并非一個自相矛盾的概念，但這絕不僅僅意味著設(shè)計出符合道德的模型。他認為，同樣重要的，還有推動“去中心化AI”運動所關(guān)注的那些政治與經(jīng)濟問題。“重點并不是教AI應(yīng)該怎樣思考，而是通過基礎(chǔ)設(shè)施層面的創(chuàng)新，防止數(shù)據(jù)所有權(quán)過度集中。而這一點，對于民主社會而言具有極其重要的倫理意義。”

此外，還有其他值得擔(dān)憂的問題。今年4月，谷歌同意允許美國軍方將公司的AI技術(shù)用于“任何合法的政府用途”。這句話聽起來似乎無害，但只要想想近年來歷屆美國總統(tǒng)政府曾宣稱合法的各種暴行，這種表述便令人不寒而栗。谷歌以及其他幾家公司是在Anthropic——聊天機器人Claude的開發(fā)者——拒絕簽署類似協(xié)議之后，陸續(xù)簽下這些協(xié)議的。特朗普政府隨后因為Anthropic拒絕合作，將其列為“供應(yīng)鏈風(fēng)險”，這一商業(yè)上具有懲罰性的認定，目前Anthropic仍在法院提出抗辯。

谷歌這一決定激怒了公司內(nèi)部許多員工，也與DeepMind創(chuàng)始人過去對于AI軍事用途的擔(dān)憂背道而馳。（2014年DeepMind出售給谷歌時，禁止軍事用途曾是交易條件之一。）當(dāng)我就這一問題詢問萊格時，他拒絕發(fā)表更多評論，只是說：“隨著這項技術(shù)越來越多地被用于各種場景，我們將不得不面對越來越多艱難的問題。”

今年5月，在谷歌年度開發(fā)者大會上，公司將AI全面融入旗下產(chǎn)品，作為一項值得慶祝的成就。皮查伊表示，谷歌認為，“AI是推動我們實現(xiàn)使命、并大規(guī)模改善人們生活的最深刻方式。”然而，對許多人而言，AI突然變得無處不在，卻更多帶來了一種令人應(yīng)接不暇、令人厭煩甚至令人不安的感受。更令人難以安心的是，就連哈薩比斯這樣的人，也承認事情發(fā)展得太快了。最近在一檔播客節(jié)目中，他感嘆如今所有人都被卷入了一場“兇猛的商業(yè)競爭”。他說，現(xiàn)在發(fā)生的一切，并不是他當(dāng)初希望AI發(fā)展的方式。“我原本希望，我們能夠以一種更加哲學(xué)化的方式去思考這些問題，認真權(quán)衡每一步該怎么走。但我們已經(jīng)不再處于那樣的世界了。”

到了今天，大語言模型驅(qū)動的AI似乎已經(jīng)極有可能成為與智能手機同等重要、甚至堪比互聯(lián)網(wǎng)的技術(shù)革命。然而，我依然無法因為Google Docs里那個只要停頓幾秒思考下一句話，就自動彈出的“使用Gemini寫作”提示而感到高興。我更不愿意看到自己的孩子成為數(shù)字教育這一令人眼花繚亂的新實驗中的“小白鼠”，也不愿意去設(shè)想：如果AI領(lǐng)域那些巨額投資，最終無法帶來資本市場所期待的短期回報，全球經(jīng)濟又將發(fā)生什么。誠然，我們完全可以期待AI帶來足以證明其巨大能源消耗合理性的重大突破——例如更好的電池、更高效的輸電網(wǎng)絡(luò)，或者重大疾病的治療方法。但與此同時，我也認為，對于那些擔(dān)心氣候危機的人來說，“寄希望于最好的結(jié)果”絕不能算是一種負責(zé)任的回答。

在DeepMind采訪期間，我還見到了海倫·金（Helen King）。她是公司最早的一批員工之一，如今根據(jù)公司簡介，她負責(zé)“制定Google DeepMind負責(zé)任開發(fā)與部署AI、造福全人類的戰(zhàn)略”。我問她，隨著AI技術(shù)快速商業(yè)化，谷歌對AI倫理的態(tài)度是否發(fā)生了變化。她回答說：“我們無法消除所有風(fēng)險，但我們可以確保盡可能降低風(fēng)險，并提高人們對這些風(fēng)險的認識。”不過，她也強調(diào)，有些風(fēng)險終究需要由用戶自己承擔(dān)。“這就像一把刀。制刀的人無法保證別人會怎樣使用它。但他們可以給刀套上刀鞘，讓它放在抽屜里的時候盡可能安全；也可以提醒大家：這把刀很鋒利，不要在某些場景中使用它。大概就是這樣的道理。”

這個比喻讓我感到一種揮之不去的不安。五年前，大語言模型還是一種極為陌生的技術(shù)，如果不是刻意去尋找，人們幾乎不可能接觸到它。而今天，它們已經(jīng)無處不在：互聯(lián)網(wǎng)、電子郵件收件箱，甚至谷歌搜索結(jié)果中，到處都有它們的身影。我理解金的意思——對于像AI這樣強大的技術(shù)，沒有任何公司能夠合理地被要求徹底消除所有風(fēng)險。畢竟，每年死于汽車事故的人超過一百萬，但我們依然繼續(xù)開車。可是，把一把套著刀鞘的刀放在抽屜里，和把無數(shù)鋒利的刀片鋪滿我們的家庭、教室和辦公室，同時又不斷告訴我們：如果未來不用刀去做所有事情，就無法生存——這完全是兩回事。

如今，在DeepMind——以及整個行業(yè)的大部分公司——幾乎已經(jīng)沒有人懷疑，通用人工智能已經(jīng)近在眼前。今年5月的谷歌開發(fā)者大會上，哈薩比斯登臺宣布，“AGI已經(jīng)出現(xiàn)在地平線上。”而在其他場合，他則表示，AGI很可能將在未來三到五年內(nèi)實現(xiàn)。（他曾提出過一種測試方法：用截至1911年的人類全部知識來訓(xùn)練一個AI，然后觀察它是否能夠獨立推導(dǎo)出廣義相對論。）

與此同時，萊格告訴我，盡管如今的大語言模型在多個方面仍然沒有達到他所定義的“最低標準AGI”，包括空間推理、視覺推理、元認知以及持續(xù)學(xué)習(xí)等能力，但他認為，這些不足不會持續(xù)太久。“已經(jīng)沒有什么真正神秘的難題剩下了，”他說，“我認為，這些問題都會在一兩三年內(nèi)得到解決——誰知道呢，也許六個月就夠了。這是一個充滿驚喜的領(lǐng)域。”

如今，前沿實驗室普遍認為，關(guān)于AGI真正需要討論的問題已經(jīng)不再是“是否會出現(xiàn)”，而是“何時出現(xiàn)”。正是這種信念，也推動了DeepMind等機構(gòu)重新思考并公開討論高級AI可能帶來的后果。過去，人們更多關(guān)注的是某一項具體產(chǎn)品——例如模型、聊天機器人或智能體——所涉及的倫理問題；而今天，越來越多的注意力開始轉(zhuǎn)向一個更宏觀的問題：一個被AI全面增強的世界，將會對整個社會產(chǎn)生什么樣的影響。

當(dāng)然，在硅谷的某些角落，仍然有人把AI描繪成一種包治百病的靈丹妙藥。如果你接受這樣一個前提：超級智能AI在生活的每一個領(lǐng)域，都能夠比人類更準確地判斷什么才是最好的選擇，那么，任何問題都會擁有一個簡單答案。經(jīng)濟危機？問機器人。政治分歧？問機器人。糧食短缺？問機器人。

不過，與這種幻想并存的，是一種更加冷靜的認識：向“后AI時代”過渡，很可能不會是一帆風(fēng)順的過程。例如，萊格告訴我，他期待AI能夠帶來“極其巨大的”收益，包括“幫助攻克各種棘手疾病的機會”，以及“整體提升經(jīng)濟各個領(lǐng)域的生產(chǎn)率”。但與此同時，他也承認，“生產(chǎn)率的提升，通常都會伴隨著某種形式的沖擊。”

加布里埃爾近來的研究方向，也清楚反映出這種視角的轉(zhuǎn)變。兩年前，他和同事們還在研究AI助手的倫理問題。而如今，他領(lǐng)導(dǎo)著一支由哲學(xué)家和社會科學(xué)家組成的團隊，研究“AGI將如何影響經(jīng)濟、如何影響政治領(lǐng)域、如何影響人與人之間的關(guān)系，以及它將如何與科學(xué)和技術(shù)相互作用”。

加布里埃爾認為，AGI將帶來具有重大意義的變革，其影響規(guī)模甚至可能堪比工業(yè)革命。但與此同時，他也相信，AI并不會讓世界變成一個“沒有任何摩擦的存在”。他同樣清楚地意識到，盡管工業(yè)革命最終提高了全球的生活水平，但對于許多親歷那個時代的人來說，那并不是一段幸福的經(jīng)歷。“事情是在變好之前，先變得更糟了。”

盡管如此，加布里埃爾并不認為，這一歷史先例已經(jīng)決定了未來的結(jié)局。其中一個重要原因在于，與300年前相比，如今的普通人無論作為個體還是集體，都擁有更大的力量。雖然他擔(dān)心自己的說法聽起來“過于烏托邦且脫離現(xiàn)實”，但他表示，自己完全可以想象這樣一個世界：AI帶來的好處既包括提供建議、治愈疾病，也包括推動經(jīng)濟增長，并且讓富人和窮人都從中受益。“如果我們能夠成功渡過這一轉(zhuǎn)型，處理好權(quán)力關(guān)系，管理好風(fēng)險，那么，人類整體繁榮的潛力，將達到我們迄今從未見過的水平。”

如果關(guān)于AGI即將到來的預(yù)測最終被證明是正確的，那么，人們還將不得不面對更加宏大的問題。當(dāng)我采訪牛津大學(xué)的愛德華·哈考特時，他告訴我：“思考價值觀與技術(shù)變革之間的關(guān)系，是一件非常困難的事情。因為對于未來而言，技術(shù)變革看上去總像是一場劇烈的動蕩；可一旦它已經(jīng)發(fā)生，再回頭看，又似乎沒有那么驚天動地。原因其實很簡單：當(dāng)我們回顧歷史的時候，我們已經(jīng)站在了那些被技術(shù)變革塑造之后的價值觀立場上。如果你去讀鐵路出現(xiàn)之前人們寫下的東西，他們會認為鐵路是一場徹底的災(zāi)難。而某種意義上，他們也沒有錯——鐵路確實摧毀了一整套生活方式。可今天，當(dāng)我們回頭看時，卻會覺得：這到底有什么問題呢？”

加布里埃爾同樣認為，AI最終引發(fā)的變化，很可能比經(jīng)濟或技術(shù)層面的影響更加深遠。他指出，在科學(xué)革命時期，“當(dāng)人們發(fā)現(xiàn)世界其實按照某種規(guī)律運行時，他們經(jīng)歷了一種祛魅。但與此同時，他們也因此獲得了新的自由。”他說，未來究竟應(yīng)該擁抱哪些價值觀的變化，又該抵制哪些變化，最終仍然取決于我們自己。

在一次談話中，加布里埃爾曾這樣形容自己：“我是一個 徹頭徹尾的人文主義者。”他并不是那種期待超級智能機器最終讓人類變得無足輕重的人。然而，他也意識到，隨著計算機不斷進入那些長期以來一直被認為屬于智人專屬領(lǐng)域的活動和能力——包括語言、創(chuàng)造力、幽默以及品味——我們終究會再次面對哲學(xué)史上那些最古老、也最艱難的問題。正如物理學(xué)、生物學(xué)和天文學(xué)的發(fā)現(xiàn)，曾迫使過去的人們重新思考人類究竟有何獨特之處一樣，他認為，AI同樣可能促使我們重新思考：究竟什么才意味著“成為一個人”。

作者：Robert P Baird

翻譯：EY

https://www.theguardian.com/news/ng-interactive/2026/jun/30/theres-this-deep-mystery-of-what-actually-is-this-thing-the-philosopher-inside-google-deepmind