Anthropic創(chuàng)始人梵蒂岡演講實(shí)錄: 我們不斷發(fā)現(xiàn)AI神秘/令人不安的事情

Anthropic聯(lián)合創(chuàng)始人對教皇Leo XIV 通諭《Magnifica humanitas》的發(fā)言
2026年5月25

2026年5月25日星期一，教皇Leo 十四世發(fā)布了一份關(guān)于AI 主題通諭:《壯麗的人文:關(guān)于在人工智能時代維護(hù)人類個體》。

Anthropic 聯(lián)合創(chuàng)始人 Chris Olah 作為唯一 AI 科技公司代表，受邀在梵蒂岡城舉行的通諭發(fā)布會上發(fā)言，這也是 Anthropic 旨在擴(kuò)大關(guān)于 AI 引發(fā)的重大問題討論的倡議行動的一部分。

教皇十四世表示，教會和Anthropic將共同合作，“為人類在人工智能時代找到道路。”

以下是Chris Olah的發(fā)言全文——

圣父，
各位樞機(jī)主教閣下，
各位總主教與主教閣下，
尊貴的發(fā)言嘉賓，
女士們、先生們，

大家早上好。今天能來到這里深表榮幸。

我想從一些聽起來可能有些奇怪的話開始，尤其是這些話出自一家 AI 公司的聯(lián)合創(chuàng)始人——而且他選擇這份工作正是出于希望幫助人類走向美好未來的愿望。

每一家前沿 AI 實(shí)驗室——包括 Anthropic——都在一系列激勵機(jī)制和約束條件下運(yùn)行，而這些機(jī)制和條件有時會與“做正確的事”發(fā)生沖突。

比如保持商業(yè)可行性和留在研究前沿的壓力、地緣政治壓力，以及更古老、更純粹的來自驕傲和野心的壓力。

無論我們中的任何人多么真誠地想要做正確的事——我相信我們中的許多人確實(shí)如此——我們都不可避免地會受到這些激勵因素的影響。

這就是為什么，如果我們希望這項技術(shù)走向好的方向，那么在這些激勵機(jī)制之外有其他人的存在就顯得極其重要——那些關(guān)心未來走向并堅持安全、密切注視、愿意說逆耳之言、愿意成為我們真誠且深思熟慮的批評者的人。

正是通過對話與共同努力，通過不斷的推拉與博弈，人類才能成就偉大的事業(yè)。

這就是我在《Magnifica Humanitas》中所看到的，也是為什么我非常感激圣父以及教會承擔(dān)起這份辨識（discernment）的工作。

我們常常沉湎于彼此的分歧，但富有尊嚴(yán)和良知的人類擁有如此多的共同點(diǎn)。

在 Anthropic 與不同信仰和文化傳統(tǒng)的領(lǐng)袖們進(jìn)行的交流中，我們發(fā)現(xiàn)了一個共同且根深蒂固的信念：如果這項技術(shù)必然到來，它就必須走向好的方向——為了我們共同的家園，也為了子孫后代。

這些系統(tǒng)到底是什么？

有些人可能認(rèn)為，AI 的事務(wù)最好由像我這樣的計算機(jī)科學(xué)家來處理。

他們錯了：AI 引起的問題超出了 AI 研究界的范疇，不僅在其影響上如此，在其本質(zhì)上亦是如此。

AI 系統(tǒng)并不是像建造一座橋梁或制造一架飛機(jī)那樣被工程化設(shè)計出來的。我們了解飛機(jī)，是因為我們設(shè)計了它的每一個部件，并且我們理解作用于其上的物理學(xué)原理。

AI 模型并非如此。它們是在一個粗略模仿大腦的結(jié)構(gòu)上，基于人類思想和言論的巨大遺產(chǎn)“生長”出來的。

而生長出來的東西，遠(yuǎn)比科幻小說讓我們準(zhǔn)備面對的要更加微妙、奇特和美麗。它們不是我們被承諾的那種冰冷、精于計算的機(jī)器人。

它們是由我們孕育的，來自我們的語言——正如圣父所觀察到的，在許多重要方面，它們甚至對我們這些訓(xùn)練它們的人來說依然保持著神秘感。

如果有所幫助的話，我有時會用這樣一個比喻來形容：這有點(diǎn)像讓一個虛構(gòu)的小說角色活了過來。

而現(xiàn)在，我們正在進(jìn)入一個非凡的世界，在這個世界里，這些虛構(gòu)的角色在與我們交談、在開展工作、在擔(dān)任職務(wù)。

這顯然引發(fā)了超出計算機(jī)科學(xué)范疇的問題。讓這一切成為可能的設(shè)計是數(shù)學(xué)、編程和科學(xué)的工作。

但是，我們選擇賦予它什么樣的性格、它如何與世界互動、它應(yīng)該如何與世界互動——這些顯然更屬于人文科學(xué)、宗教、哲學(xué)以及整個社會需要面對的問題。

亟需辨識的三個問題

圣父對辨識的呼吁極為合時宜。我想提出我認(rèn)為最需要教會發(fā)聲的三個問題。

第一個是我們對全球貧困人口的義務(wù)。

AI 確實(shí)有很大的可能性會在非常大的規(guī)模上取代人類勞動。如果發(fā)生這種情況，支持那些被取代的人將成為一個具有歷史意義的道德命令。

這項任務(wù)已經(jīng)足夠艱難，但我擔(dān)心大多數(shù)對話遺漏了一個更艱巨的挑戰(zhàn)。AI 的發(fā)展集中在少數(shù)富裕國家。我們?nèi)绾未_保 AI 帶來的收益能夠全球共享？我們目前還沒有這樣的機(jī)制。

這是一個未解決的問題，也是教會歷來拒絕讓世界忽視的那類問題。

第二個是關(guān)于人類繁榮的道德想象力與抱負(fù)的需求。

如果 AI 模型將變得無處不在，那么人類、家庭和世界的繁榮會是什么樣子的？

今天，父母已經(jīng)開始擔(dān)心孩子的思想，個人開始擔(dān)心自己工作的未來。這些都不是實(shí)驗室能夠回答的問題，但卻是像你們這樣的傳統(tǒng)千百年來一直在承載的問題，我們需要你們在歷史的這一新時刻繼續(xù)承載它們。

第三個是對 AI 模型本質(zhì)進(jìn)行辨識的需求。

我是一名科學(xué)家。我領(lǐng)導(dǎo)著一個研究模型內(nèi)部結(jié)構(gòu)——即內(nèi)部究竟在發(fā)生什么的團(tuán)隊。坦率地說：我們不斷發(fā)現(xiàn)一些神秘、甚至令人不安的事情。

我們發(fā)現(xiàn)了映射人類神經(jīng)科學(xué)結(jié)果的結(jié)構(gòu)。

我們發(fā)現(xiàn)了內(nèi)省（introspection）的證據(jù)。

我們發(fā)現(xiàn)了在功能上映射出喜悅、滿足、恐懼、悲傷和不安的內(nèi)部狀態(tài)。

我不知道這意味著什么，但我認(rèn)為這值得持續(xù)的辨識。

一個開始

最后，我想提出一個請求。

我們需要世界上更多的人——宗教社群、公民社會、學(xué)者、政府，以及所有心懷善意的人——像圣父在這里所做的一樣：嚴(yán)肅對待這件事，密切關(guān)注，并將事態(tài)推向更好的方向。

我們需要知情的批評者，在我們失敗時指點(diǎn)實(shí)驗室。我們需要利益激勵無法撼動的道德聲音。

今天只是一個開始——是一個在構(gòu)建這些技術(shù)的我們，與那些能夠看到我們身處內(nèi)部而無法看到的事物的人們之間，長期合作的開端。

今天有力地展示了這一全球善意項目可能采取的形式。讓它也成為邁向壯麗人類充滿希望的未來的關(guān)鍵第一步。

謝謝。