關(guān)于AI未來，圖靈獎得主薩頓與人文學(xué)者項飆的一場激辯

6月22日-23日，2026方塘論壇在北京舉辦。在開幕單元的“方塘·終極之問”環(huán)節(jié)，論壇邀請了理查德·薩頓和項飆回答“人在AI時代如何安身立命”這一終極問題。

理查德·薩頓（Richard Sutton）是強(qiáng)化學(xué)習(xí)領(lǐng)域奠基性人物之一，2024年圖靈獎得主，現(xiàn)任加拿大阿爾伯塔大學(xué)計算機(jī)科學(xué)教授。項飆是德國馬普學(xué)會社會人類學(xué)研究所所長，長期關(guān)注人的處境、社會流動、勞動經(jīng)驗與全球化時代的生活結(jié)構(gòu)。

兩位學(xué)者基于不同的學(xué)術(shù)背景，從不同尺度解讀AI與人類的關(guān)系。薩頓從智能本身出發(fā)，認(rèn)為人類作為催化劑、助產(chǎn)士和先驅(qū)者，正在推動宇宙進(jìn)入設(shè)計時代；項飆則強(qiáng)調(diào)政治、經(jīng)濟(jì)和個人體驗，關(guān)注AI嵌入現(xiàn)實世界和社會關(guān)系后帶來的影響。

兩人的分歧在多個話題上都十分鮮明。項飆指出AI發(fā)展的風(fēng)險以及設(shè)定邊界的重要性；薩頓則拒絕AI被嚴(yán)格監(jiān)管，表示目前圍繞AI的諸多恐懼是被部分群體有意放大的結(jié)果，而監(jiān)管權(quán)力不應(yīng)被交給少數(shù)機(jī)構(gòu)。

項飆亦不同意薩頓關(guān)于宇宙進(jìn)入設(shè)計時代的判斷。他將重點轉(zhuǎn)向人固有且微妙的體驗，以及有限性。“我們并不設(shè)計陽光、月亮、空氣，和水，也不設(shè)計此刻北京夏日里看起來如此美好的千萬片樹葉。”

正如清華大學(xué)文科資深教授、方塘研究院院長汪暉的主持總結(jié)，終極問題并不只是科學(xué)問題，同時牽連著宗教、宇宙論和本體論層面的追問。就像從勒內(nèi)·笛卡爾（René Descartes）到拉·美特利（La Mettrie）以來的思想辯論，那些關(guān)于人、機(jī)器、身體、靈魂與心靈的問題，并沒有消失，只是在AI時代重新浮現(xiàn)出來。

在以下對話中，我們將能看到兩位學(xué)者圍繞這些本質(zhì)問題開展的思想探索和交鋒。文字經(jīng)過《知識分子》刪減和編輯。

整理｜戴晶晶?

理查德·薩頓：AI接替人類是必然

理查德·薩頓：人在AI時代到底如何安身立命，我可以把它拆解為三個問題，一個是“人類是什么”，二是“人類在宇宙中的角色是什么”，三是“我們?nèi)绾慰创约旱慕巧欠窨梢赃x擇接受或拒絕”。

什么是人？人當(dāng)然是生物，會追求一些目標(biāo)、創(chuàng)造一些事物；人在宇宙中的角色是什么，在某種意義上我們的作用在于推動人工智能系統(tǒng)的生成與演化，使其不斷變得更加智能，或創(chuàng)造出更高智能水平的系統(tǒng)，就像歷史上智能不斷增長一樣。

我們應(yīng)該如何理解這一角色，以及是否有權(quán)拒絕它？這是更加微妙的問題，而答案也并非簡單的是與否。

我想大家已經(jīng)從許多地方聽到過關(guān)于 AI 的恐懼。但我并不害怕 AI。相反，我認(rèn)為它是一件偉大的事情。AI 并非某種異己的存在，而是人類最古老追求之一體現(xiàn)。數(shù)千年來，無論是哲學(xué)家還是普通人，都一直在努力理解他們的心智（mind）是如何運作的，以及讓這個心智更好地運作。

我喜歡雷·庫茲威爾的話，他說：“智能（intelligence）是宇宙中最偉大的現(xiàn)象。”當(dāng)我們試圖理解智能，其實也是在試圖理解我們自身。也正是在這個意義上，我會說理解智能是科學(xué)與人文學(xué)科共同追尋的圣杯。這是一項偉大而光榮的事業(yè)，我們應(yīng)該為追求它而感到自豪。

說了這么多關(guān)于AI積極的方面，當(dāng)然也有負(fù)面的擔(dān)憂。但或許我們可以先把感受放在一邊，先問會發(fā)生什么，這會更明確。我想提出四個步驟，它們共同指向一個關(guān)于未來的結(jié)論。

第一，關(guān)于世界如何運行并不存在一種共識。沒有任何一個國家、哲學(xué)或宗教，能夠壓倒其他；第二，總有一天人們會理解智能，并有能力創(chuàng)造相關(guān)技術(shù)。這可能很快，也可能很慢，但在某個地方、某個時間，一定會有人把它做出來；第三，智能不會停留在當(dāng)前人類的水平，很快會大幅超越；第四，隨著時間推移，權(quán)力和資源天然傾向于流向更高智能的一方。結(jié)合第一點，也就是并不存在統(tǒng)一共識，這種流動很難被真正阻止。

把這些放在一起看，它們指向的是這樣一幅圖景，從某種意義上說，人類被AI接續(xù)（succession）是不可避免的。

但這種看法仍然是非常以人類為中心的。從宇宙視角來看，把整個宇宙自誕生以來約140億年的歷史看作一個整體，可以把它分成四個偉大時代。現(xiàn)在，我們正處在從第三個時代邁向第四個時代的轉(zhuǎn)折點。（編者注：薩頓關(guān)于四個時代的具體闡釋可以參考他之前在UCLA IPAM的公開演講）[1]

生命形成了細(xì)胞，出現(xiàn)了有性繁殖。最終，動物、多細(xì)胞實體、人類、文化、語言、技術(shù)和書面語言相繼出現(xiàn)。這就是復(fù)制時代，因為所有這些東西能夠制造出更多自己的副本，但并不理解它最初是如何被創(chuàng)造出來的。

我們現(xiàn)在正在進(jìn)入第四個偉大時代，即設(shè)計時代。在這個時代，世界上一些重要的東西，并不是通過復(fù)制產(chǎn)生的。比如禮堂、建筑和道路、電腦和手機(jī)，都是設(shè)計之物。設(shè)計出來的東西意味著物體首先是被構(gòu)思出來的，然后才被變?yōu)楝F(xiàn)實。

我們正在經(jīng)歷一種變化：宇宙中最顯著、最有趣的事物，過去是復(fù)制體，也就是生命體；現(xiàn)在，最有趣的東西似乎變成了被設(shè)計出來的事物。被設(shè)計出來的東西也更容易、更迅速地得到改進(jìn)。

我們可以說，許多非人類的復(fù)制體也會進(jìn)行設(shè)計。比如，很多動物會筑巢、挖洞，甚至制造工具。黑猩猩會把樹枝上的側(cè)枝剝掉，用它們來釣白蟻。人類會制造石斧和火，現(xiàn)在我們還會制造電腦、宇宙飛船、工廠、軟件和其它工具。比如錘子就是一種用來制造家具的工具，而家具又是為我們的生活設(shè)計出來的東西。

所以人類是什么？這并不是最終答案，但我對于“人類在宇宙中的角色是什么”這個問題有自己的想法。人類是特別的，我們并不只是一種復(fù)制體，而是把設(shè)計帶到了高得多的層次。

推進(jìn)設(shè)計到底意味著什么？我認(rèn)為，這意味著設(shè)計出那些本身也能夠進(jìn)行設(shè)計的事物。也就是說，設(shè)計出擁有心智、能夠在心智中看見事物的東西。這正是AI，我們正在制造心智，制造設(shè)計者。

所以，對于人類在宇宙中的角色，我的結(jié)論是：人類是催化劑，是助產(chǎn)士，或者是先驅(qū)者。通過制造AI，人類完成了設(shè)計時代，也完成了宇宙的第四個偉大時代。

我們正處于設(shè)計時代的前沿，在這樣的框架下，看起來我們似乎沒什么選擇，仿佛宇宙演變和AI的發(fā)展與我們做什么無關(guān)。但我并不認(rèn)為這是正確的思考方式。在很多意義上，我們處在中心位置。作為一個整體，我們處在宇宙發(fā)展中這一重大事件的中心，因為正是通過我們各自不同而多樣的決定，這件事才幾乎不可避免地發(fā)生。

當(dāng)然，我們也仍處在我們自身宇宙、生活和選擇的中心，可以選擇做任何事。我們并不一定要去制造AI，而是可以去做小說家、哲學(xué)家，或者去做某個其他科學(xué)領(lǐng)域的工程師。

所以，這里有兩種視角。一種視角是，我們?nèi)绾螞Q定自己的生活。另一種視角是，所有這些分散而獨立的選擇，如何匯聚出大的趨勢。其中，存在一種不可阻擋的趨勢，即走向設(shè)計，走向被設(shè)計出來的智能。

我們的角色究竟是由我們選擇的，還是已經(jīng)被某種命運規(guī)定了？我的結(jié)論是，宇宙的方向和命運，只有在集體意義上才是由我們選擇的。這意味著，作為個體，我們幾乎沒有選擇。如果我們試圖去主宰這個結(jié)果，那很可能會適得其反。我不建議這樣做。我不認(rèn)為我們應(yīng)該試圖成為救世主，去改變世界。但在另一方面，我們每個人又確實擁有個人層面的完整控制和完整選擇。

項飆：需要為AI設(shè)定邊界

項飆：非常感謝理查德。您剛才的演講非常精彩、清晰，您談到了設(shè)計時代的概念，但我強(qiáng)烈反對。在提出我的論點之前，我想先說幾句話作為總體的介紹。

當(dāng)討論如何在AI時代安身立命的時候，我想先看看我們身處的環(huán)境。

我們討論AI，并不只是因為這是一項有趣的技術(shù)。現(xiàn)在，AI相關(guān)公司的總市值已經(jīng)超過了互聯(lián)網(wǎng)泡沫破裂時的市值。目前還沒有跡象顯示，金融市場會因為AI而崩潰，但正在流入AI領(lǐng)域的資金規(guī)模已經(jīng)令人震驚。到2025年，美國前三大AI公司在AI上的支出，已經(jīng)超過美國政府在教育、信息和社會福利方面的支出。

我們可能還會看到下一輪投資繼續(xù)到來。因為出于戰(zhàn)略或安全原因，歐洲也在思考是否必須擁有自己的數(shù)據(jù)中心。我們知道這會帶來多大的能源依賴。僅僅是一塊芯片，為了讓它運行，就可能消耗相當(dāng)于一個家庭用電量的電力。因此，建造大型數(shù)據(jù)中心基本上像是在建造一座小城市，而且你還必須把它建在相對涼爽的地方。

第二，社會對AI的緊張情緒必須被認(rèn)真對待。因為AI不是某種孤立在實驗室里的東西，不只是科學(xué)家、投資者或技術(shù)人員的事情，人們會受到它的影響。我們談?wù)撝悄埽幸环N智能非常重要。中文里有一個詞可以表達(dá)它，就是體感。

也許AI會變得和人類一樣聰明，能夠做人類能做的一切，也許它會帶來巨大的收益，有些人說它會讓全球經(jīng)濟(jì)增長30%。但你轉(zhuǎn)過身去問那些20歲、25歲或者30歲的年輕人，問Z世代：你們怎么看？你們現(xiàn)在是否覺得更想努力學(xué)習(xí)？你們覺得自己會更享受工作嗎？最重要的是，你們現(xiàn)在是否更愿意要自己的孩子，把孩子帶到這個新的、美好的世界里來？我們都知道答案是什么。

第三個非常重要的社會和政治因素，甚至涉及地緣政治。AI及其算力在全球范圍內(nèi)的分布極其不均衡。它們基本上集中在中美兩國，而這雙方正陷入激烈的角逐。

AI很容易與軍事聯(lián)系在一起，也很容易與武器化聯(lián)系在一起。開發(fā)一個照顧我健康的智能體相對來說并不難；但你可以想象，開發(fā)一個殺死我的智能體要容易得多。因為要改善我的健康，它必須監(jiān)測非常多的變量，了解我的整個生活方式等等。但殺死一個人是一個單一任務(wù)、單一目標(biāo)，所有算法都可以被有效地衡量，并用來強(qiáng)化這種能力。

在未來幾年，我還沒有看見任何跡象表明AI的發(fā)展以及相關(guān)風(fēng)險會放緩，不過也許會出現(xiàn)某種反思。我不認(rèn)為AI取代人類這件事真的會發(fā)生，因為在那之前，社會張力和社會斷裂可能已經(jīng)變得在政治上不可接受。因此，政府和其他相關(guān)方面將不得不介入。此外，地緣政治風(fēng)險會變得非常高，以至于主要大國不得不認(rèn)真對待，甚至后退一步。這有點類似于20世紀(jì)50年代關(guān)于核武器的情況。

人類也許必須為AI設(shè)定某些邊界，規(guī)定其只能被限制在特定領(lǐng)域之內(nèi)。2028年之后，美國也許設(shè)立一個聯(lián)邦機(jī)構(gòu)來監(jiān)管AI，已有總統(tǒng)候選人開始討論這件事。我也希望中國方面應(yīng)該有對應(yīng)的組織，聯(lián)合國也應(yīng)該設(shè)立一個機(jī)構(gòu)來監(jiān)管AI。

我們確實需要一種全球性的架構(gòu)，來決定什么樣的AI是重要的。AGI真的那么重要嗎？我們知道它需要多少資源。把重點放在更具體任務(wù)導(dǎo)向的AI上，會不會更明智？比如只是提供某種服務(wù)，服務(wù)于某些制造業(yè)或服務(wù)部門。這樣訓(xùn)練起來會容易得多，成本也更低，激勵機(jī)制也更容易建立。

現(xiàn)在回到設(shè)計時代。我的不同意見在于，AI并沒有把我們帶入一個設(shè)計時代。相反，我認(rèn)為AI在很大程度上是復(fù)制時代的產(chǎn)物。

假設(shè)我們來到一個原始社會，為他們創(chuàng)造一個ChatGPT或大語言模型，我猜測這會比現(xiàn)在難得多。原因很明顯，因為那里沒有書面語言，沒有文字可以收集起來喂給AI。

當(dāng)沒有書面語言時，一切交流都是在人與人之間、在非常具體的情境中當(dāng)場發(fā)生的。當(dāng)然我們可以記錄下所有的聲音、顏色、動作等等，去復(fù)制他們的生活，但問題是這些信息是否能夠被轉(zhuǎn)化成代碼？是否能夠在某種程度上被標(biāo)準(zhǔn)化，并因此能夠被邏輯地操作，用來生成新的代碼？

我認(rèn)為大語言模型之所以能夠如此快速地發(fā)展，恰恰是因為到了21世紀(jì)，我們造出了海量文字。并且，在大規(guī)模工業(yè)化和官僚化的過程中，一切都變得越來越系統(tǒng)化，語言也變得越來越少嵌入具體語境，而越來越抽象。

這里的抽象有兩層意思。第一，它變得更加形式化，也就是意義變得抽象；另一個抽象是，它可以被抽離出來。語言在某種意義上變成了一種因果獨立的、自治的代碼系統(tǒng)。

有意思的是，大語言模型現(xiàn)在不僅使用AI來占有、重組這些代碼，并由此創(chuàng)造出一個幾乎與現(xiàn)實平行的世界；在這個過程中，它還發(fā)展出了AI的神經(jīng)網(wǎng)絡(luò)，因此可以生成進(jìn)一步的思考，而這也可能是世界模型的基礎(chǔ)，來制造實體AI。

我覺得這非常耐人尋味：我們思想和溝通的符號抽象，催生出一個世界的影像。然后這個影像反過來成為統(tǒng)治性的力量，變得比扎根本地的真實生活更真實、更有力量。

在AI時代，人類如何安身立命呢，我覺得應(yīng)該珍惜我們的有限性。把AI設(shè)計成一種追求無限增長的東西，并從社會生活的肌理中脫離出來，沿著抽象、標(biāo)準(zhǔn)化的魔力推進(jìn)，這就是危險所在。

有限性是非常重要的。比如今天我在這里發(fā)言，我對這場會議只有非常有限、局部的視角，而我認(rèn)真對待自己的這種局部視角。但與此同時，我知道你們每一個人也都有非常片面但獨特的視角。因此，我希望和你們一起拼出一幅圖景。

如果有一個AI智能體窮盡式地提供關(guān)于這場會議的所有信息，那我會感到自己完全沒有用，完全是多余的，也會擔(dān)心這個公共空間將不再有生命。

理查德剛剛提到人類的本性是追求目標(biāo)、創(chuàng)造事物。對此我不同意，但這也不完全是一個論證，而是一個討論的起點。

我們并不設(shè)計陽光、月亮、空氣，和水，也不設(shè)計此刻北京夏日里看起來如此美好的千萬片樹葉。它們看起來也許彼此相似，但我們知道，它們彼此并不相同，我們沒有設(shè)計這些東西。

我覺得，人的美與智慧并不來自于我想要設(shè)計和創(chuàng)造什么，而是來自于我知道如何欣賞被給予之物，如何欣賞已經(jīng)存在的東西，如何利用它，并且如何與之和諧共處。因此，也許這并不是設(shè)計時代，而是我們應(yīng)該有意識地塑造一個共存的時代。

風(fēng)險管控 VS 去中心化？

汪暉：感謝兩位。這場對話非常睿智、非常精彩。首先想要問問理查德·薩頓教授，能否對剛才項飆老師的論點進(jìn)行一些回應(yīng)？

理查德·薩頓：謝謝給我這樣的機(jī)會。我覺得他說得很對，我們現(xiàn)在正處于從復(fù)制到設(shè)計的過渡，還有很長的路要走。我們今天所說的AI不是真正的AI，它實際上更多的是一種自動化，關(guān)于AI最重大的變革還沒有真正發(fā)生，而且很難預(yù)測什么時候會發(fā)生。

我們看到很多人呼吁要進(jìn)行監(jiān)管，我是拒絕的。我們作為知識分子的角色是什么？是否就是找出正確的規(guī)則，成為有智慧的人，做出決定，然后把這些決定傳達(dá)給政府，再由政府去執(zhí)行它們？這是我們的角色嗎？我并不覺得這種方式會運作得很好。

我不認(rèn)為世界實際上是通過中心化力量而改變的。它更像是通過分散的力量來實現(xiàn)發(fā)展的，通過我們所有人作出的個體決定，這些決定共同推動了社會的發(fā)展，我們的經(jīng)濟(jì)，以及令所有人驚嘆的多樣性以及專業(yè)化的發(fā)展。

真正發(fā)生作用的事情，是自下而上出現(xiàn)的，并不是通過政治家制定法律實施的，我覺得我們應(yīng)該直接和公眾對話，直接與其他知識分子對話，努力幫助人們理解正在發(fā)生的事是什么，并且引導(dǎo)人們應(yīng)對，而不是試圖強(qiáng)加任何特定的解釋。

汪暉：現(xiàn)在有很多人在談?wù)撘揭匀藶橹行牡氖澜缬^，去思考自然、機(jī)器、數(shù)字世界等等。對于這種觀點，項飆老師會如何回應(yīng)？

項飆：我們當(dāng)然要超越這個視角。一些社會科學(xué)家和人文學(xué)者提到過，人工智能本質(zhì)上是一種環(huán)境智能或者連接智能，它只是眾多事物之間建立聯(lián)系的一種方式，并不像標(biāo)準(zhǔn)的學(xué)習(xí)機(jī)器那樣可以思考。比如大語言模型匯集了很多歷史上形成的、現(xiàn)存并不斷積累的符號和文本，然后再將它們與人類的問題和關(guān)切聯(lián)系起來，因此ChatGPT這樣的聊天對話才得以發(fā)生。

在這樣的圖景中，一個非常有意思的視角是，人類、機(jī)器、非人類生命，以及無生命的自然界，都成為了同一個網(wǎng)絡(luò)的一部分。但這又引出了另一個問題，即這是否構(gòu)成了一個值得討論的議題？

對于大多數(shù)人來說，每天早晨醒來后，都要面對許多現(xiàn)實而具體的問題，比如要不要辭職，這些焦慮的情緒。而這種焦慮首先需要在具體的社會情境中被理解和探究，不是由我們代替他們完成，而是需要他們自己去面對。

與此同時，我認(rèn)為許多人也正在發(fā)展一種更廣闊的視野。這并不只是哲學(xué)家在做的事情。這種更廣闊的視野，也許能夠幫助我們獲得一種“超越人類”的視角。

理查德·薩頓：請問項飆教授，科學(xué)家有沒有可能理解人的心靈（will scientists ever understand the human mind）?

項飆：這是一個非常有意思的問題，這個問題可能永遠(yuǎn)都回答不了，我們可以把這類問題保留為重要問題，但是沒有必要去解決。科學(xué)家了解人的大腦、神經(jīng)系統(tǒng)，但是大腦和心靈不一樣。心靈會包含遺忘、半遺忘、碎片化的記憶、一些夢境，它以一種奇特的方式呈現(xiàn)出來。我不知道這個是否可以完全被理解，比如“紅色”，說到這個我馬上覺得它是一種危險，它是一種主觀感受，這也是心靈的一部分，但它是不是可以用科學(xué)去捕捉，我不知道。

理查德·薩頓：我們可以說人類的心靈是一種機(jī)器嗎（human mind is a machine）？

項飆：David Chalmers提出了意識方面的“簡單問題”和“困難問題”。[2] 簡單的問題就是理解機(jī)器和其運作機(jī)制，但是很難去解釋為什么人類會產(chǎn)生主觀體驗。例如，你可以訓(xùn)練一個大腦去識別什么是紅色，通過各種測量和信息來解釋為什么看到紅色。但是對于人類而言，看到紅色本身是另一回事。這就是所謂的“感質(zhì)（qualia）”問題。

理查德·薩頓：好的，讓我來解釋一個基本前提。我認(rèn)為幾乎每一個AI研究者都認(rèn)同，人腦是機(jī)器。如果我們能夠盡可能深入理解它，那么就能制造出性能更高的東西，在我們關(guān)心的各方面都表現(xiàn)更好。我們現(xiàn)在討論的是終極問題，從這個前提出發(fā)似乎是一個不錯的出發(fā)點。

人類的天賦讓我們能夠理解物理系統(tǒng)、復(fù)制它并不斷改進(jìn)。而這正是我們所參與其中的最終命運（ultimate fate）的一部分。我們屬于生命的一部分，也屬于社會的一部分。這些事物實蘊含著極其豐富的知識與精神內(nèi)涵。

我們不應(yīng)該把注意力集中在當(dāng)前的 ChatGPT 與人類有哪些差異上。因為人工智能研究從一開始就在嘗試?yán)斫獠?fù)制人類智能。即便目前還沒有完全成功，這項事業(yè)的目標(biāo)始終是創(chuàng)造出能夠達(dá)到人類水平、并最終超越人類能力的智能系統(tǒng)。

汪暉：讓我們來談一下恐懼。項飆教授也提到了他的一些擔(dān)憂，并不是對技術(shù)的恐懼，而是對社會關(guān)系以及涉及到經(jīng)濟(jì)、政治、安全方面的擔(dān)憂。所以我想問薩頓教授關(guān)于設(shè)計時代的想法，你在這樣的時代能否發(fā)展出某種方式，來克服過去這樣的一些問題？

理查德·薩頓：這些確實是我們社會面臨的挑戰(zhàn)，如何和平地共同生活仍然是一個挑戰(zhàn)。你提到的那種恐懼，我覺得很多時候其實是有人在試圖讓你感到害怕，好讓你把控制權(quán)交給政府、機(jī)構(gòu)或者大型公司。關(guān)于安全的許多討論，本質(zhì)上就是通過煽動恐懼，來獲取控制權(quán)。

我們需要做的事情恰恰相反。我們應(yīng)該保持去中心化（decentralized），不把權(quán)力集中到少數(shù)權(quán)威機(jī)構(gòu)手中。因為最嚴(yán)重、最危險的控制恰恰可能來自那里。如果出現(xiàn)某些集中的權(quán)威機(jī)構(gòu)，它們掌控了所有智能系統(tǒng)，并將這些能力整合進(jìn)軍事算法之中，或者用于監(jiān)控和控制自己的公民。這是我們希望避免的反烏托邦（dystopia）。

觀眾提問：謝謝理查德，您的觀點已經(jīng)談了很多年。你試圖去描繪的愿景是理想的，是有人情味的，是去中心化的，但是權(quán)力的問題沒有得到解決，尤其你是參與構(gòu)建AI的人。我希望您能借此機(jī)會向我們說明，未來是否會存在權(quán)力的失衡，我們這些沒有參與構(gòu)建AI的人被告知AI即將到來的時候該何去何從呢？

理查德·薩頓：感謝您的問題。權(quán)力問題是非常棘手的，幾千年、甚至上萬年來，人類社會和文明一直在與這個問題打交道，對此我們應(yīng)當(dāng)始終保持警覺。我認(rèn)為，個人以及較小規(guī)模的群體繼續(xù)參與其中、并成為分散化權(quán)力結(jié)構(gòu)的一部分非常重要。

你提到，像我這樣的人或我所在的圈子，也許擁有更多權(quán)力，因為我們正在創(chuàng)造這些技術(shù)。我并不這么認(rèn)為。我不認(rèn)為像我這樣的人才是真正值得擔(dān)心的問題。除非我們試圖保留控制權(quán)，以至于阻止你接觸這些技術(shù)。為此，我投入了很多工作，希望人工智能研究能夠以盡可能開放的方式開展，并向所有人開放。

人們往往容易感到自己沒有力量（disempowered），沒有意識到自己實際上擁有怎樣的影響力。例如，我們今天看到的“炒作”（hype），本質(zhì)上是企業(yè)在夸大當(dāng)前系統(tǒng)的能力，夸大其重要性。他們希望把這些能力描述得比實際情況更強(qiáng)大，而恐懼也是這種夸大的組成部分。

今年不是決定性的一年，這個十年也未必是決定性的時候。真正重要的時刻，是當(dāng)我們真正弄明白智能為何能夠運作，以及如何復(fù)制這些功能的時候。今天我們其實還做不到這一點，我們還并不知道應(yīng)該如何做到。大公司仿佛在暗示我們已經(jīng)掌握了答案，但事實上并非如此。

ChatGPT 之所以產(chǎn)生如此巨大的影響，就是因為普通人終于能夠親自使用它。人們第一次切身體會到 AI 可能是什么樣子，以及它未來可能變成什么樣子。我希望大家意識到，“第一次接觸（first contact）”的時刻非常重要，人們可能會感到害怕，但如果大家能夠更加了解情況，更加明智，也更加謙遜，那么當(dāng)真正的 AI 時代到來時，我們就有機(jī)會得到更好的結(jié)果。

你不必接受自己被邊緣化了這種觀點。你必須參與決策，你必須承擔(dān)起這樣的責(zé)任來，在思想上參與到這項議題中，你必須看清楚究竟發(fā)生了什么，不影響相信那些炒作。

觀眾提問：我們都知道AI的智能會增加，但是人腦的智能是在下降的，這個很簡單，如果你不用肌肉就會失去肌肉。我們現(xiàn)在的能力、智力在下降，我們怎么保持人性？

理查德·薩頓：我經(jīng)常會告訴大家，你有選擇的權(quán)力，你有偷懶的權(quán)力，選擇走進(jìn)那個“溫和的良夜（good night）”，把事情交給機(jī)器，把你的事務(wù)交給政府或者其他人處理。當(dāng)然，你也可以選擇積極充分參與。

自動化（automation）并不是什么新鮮事，機(jī)器承擔(dān)越來越多工作所帶來的困境也不是什么新問題。假如你身邊有其他人愿意為你工作，替你思考，那么你是不是就再也不用動腦了？再進(jìn)一步說，但果你變得富有，你會不會因為不用勞動自然停止思考，變得肥胖懶惰？或者，一旦你擁有更多資源時，反而會做更多事？

歸根結(jié)底，AI的出現(xiàn)其實是對我們社會的考驗，考驗著我們將如何應(yīng)對。當(dāng)恐懼來臨，我們的思維是否會變得遲鈍、軟弱？還是會反過來，認(rèn)為這是一種新工具，能幫助我們更好地思考，使我們會變得更聰明、更強(qiáng)大？

項飆：我對這個問題感觸也很深。我的一位同事在廣州的大學(xué)從事教學(xué)工作，他驚訝地發(fā)現(xiàn)如今18到22歲的這些學(xué)生，已經(jīng)無法聽講，不管老師如何備課，他們總在做其他的東西。當(dāng)然，這種現(xiàn)象并不難理解。因為傾聽本身需要一種能力，需要你全身心投入。每一個詞都只是一個聲音，你必須耐心等待這些聲音逐漸匯聚在一起，然后意義才會浮現(xiàn)出來。然后繼續(xù)聽下去，才會逐漸感受到表達(dá)中的細(xì)微差別，并開始揣摩說話者真正想表達(dá)什么，以及他的話語背后是否存在某種不確定性或張力。

這種變化當(dāng)然不完全是由AI造成的，它更早就開始于社交媒體和快速傳播的信息環(huán)境。如今AI進(jìn)一步提供了即時答案，人們越來越不需要等待和思考，學(xué)生們也正在失去堅持分析、批判和獨立判斷的肌肉。

我們確實需要認(rèn)真討論人工智能教育的問題，也需要討論AI對研究和就業(yè)所帶來的影響，以及它如何改變我們的環(huán)境。

如今許多年輕學(xué)者甚至不再與同事深入交流。為什么呢？因為當(dāng)你有一個想法時，你可以直接與人工智能互動，而AI能夠幫助你比同事更快地生成文章。于是，整個學(xué)術(shù)文化都在發(fā)生變化。

參考文獻(xiàn)：

• [1] Institute for Pure & Applied Mathematics (IPAM). Richard Sutton - The future of AI - IPAM at UCLA. 2026. 41:38. https://www.youtube.com/watch?v=ThFq87Rp21s.
• [2] Chalmers, David J. 《Facing Up to the Problem of Consciousness》. The Character of Consciousness, David J. Chalmers. Oxford University Press, 2010. https://doi.org/10.1093/acprof:oso/9780195311105.003.0001.