自然正義：AI價(jià)值對(duì)齊的唯一終極目標(biāo)

原文發(fā)表于《科技導(dǎo)報(bào)》2026 年第8 期 《 人工智能價(jià)值對(duì)齊的目標(biāo)：自然正義 》

在考慮可以用來作為人工智能價(jià)值對(duì)齊的目標(biāo)時(shí)，應(yīng)該選擇超越用戶并且超越社群的全人類共識(shí)價(jià)值觀。《科技導(dǎo)報(bào)》邀請(qǐng)中國(guó)移動(dòng)通信聯(lián)合會(huì)人工智能與元宇宙產(chǎn)業(yè)工作委員會(huì)甘華鳴教授、復(fù)旦大學(xué)國(guó)際關(guān)系與公共事務(wù)學(xué)院彭澤宇副研究員撰寫文章，提出在全人類共識(shí)價(jià)值觀的諸多因素中，應(yīng)該選擇自然正義這個(gè)唯一真實(shí)存在的道德律；簡(jiǎn)言之，人工智能價(jià)值對(duì)齊的目標(biāo)應(yīng)該是自然正義。自然正義是：參與者把任何有當(dāng)前博弈的任何參與者參與的、跟當(dāng)前博弈結(jié)構(gòu)類似的博弈都視為同一個(gè)無限期重復(fù)博弈的一個(gè)階段博弈。

1 人工智能價(jià)值對(duì)齊

人工智能價(jià)值對(duì)齊（artificial intelligence value alignment）指確保構(gòu)建的人工智能體（AI agent）所追求的價(jià)值跟人所追求的價(jià)值是一致的。人工智能價(jià)值對(duì)齊問題是人工智能安全研究的核心議題，它源自一個(gè)精辟的洞見：確保人工智能可靠地造福于人類，是一個(gè)在理論上深刻、在技術(shù)上艱巨的挑戰(zhàn)。其學(xué)術(shù)根源可追溯到控制論的早期思想，隨著大模型的出現(xiàn)和發(fā)展，其重要性和急迫性日益凸顯。

價(jià)值對(duì)齊不是一個(gè)可以事后彌補(bǔ)的附加功能，而是必須預(yù)先設(shè)置的基礎(chǔ)性質(zhì)。盡管面臨價(jià)值觀復(fù)雜性和價(jià)值觀如何在技術(shù)上得以實(shí)現(xiàn)的困難，業(yè)界正通過跨學(xué)科融合探索價(jià)值對(duì)齊問題，努力構(gòu)建既智能又安全的人工智能。

2 人工智能價(jià)值對(duì)齊的目標(biāo)應(yīng)該是自然正義

人工智能價(jià)值對(duì)齊的目標(biāo)應(yīng)該是什么？這是當(dāng)前人工智能發(fā)展的最重要、最急迫的問題。特別是人類級(jí)別人工智能（human?level AI，HLAI）和超級(jí)人工智能（artificial superintelligence，ASI）的價(jià)值對(duì)齊的目標(biāo)應(yīng)該是什么的問題，則可能關(guān)系人類的前途命運(yùn)甚至生死存亡。

在考慮可以用來作為人工智能價(jià)值對(duì)齊的目標(biāo)時(shí)，即在用戶的指令、意圖、偏好、欲望、利益、個(gè)人價(jià)值觀、超越用戶的社群價(jià)值觀、超越用戶并且超越社群的全人類共識(shí)價(jià)值觀（consensual values of humanity）中，顯然應(yīng)該排除用戶的指令、意圖、偏好、欲望、利益、個(gè)人價(jià)值觀，也應(yīng)該排除超越用戶的社群價(jià)值觀，而應(yīng)該選擇超越用戶并且超越社群的全人類共識(shí)價(jià)值觀。

然而，全人類共識(shí)價(jià)值觀是包含自然正義（natural justice）等諸多因素的，那么，在全人類共識(shí)價(jià)值觀的諸多因素中，應(yīng)該選擇什么因素作為價(jià)值對(duì)齊的目標(biāo)呢？應(yīng)該選擇自然正義這個(gè)唯一真實(shí)存在的道德律（moral law，道德法則）。

簡(jiǎn)言之，人工智能價(jià)值對(duì)齊的目標(biāo)應(yīng)該是自然正義。

這樣，價(jià)值對(duì)齊就是人給人工智能體嵌入自然正義，經(jīng)過價(jià)值對(duì)齊的人工智能體就會(huì)擁有被嵌入的自然正義，并且在行動(dòng)中遵循自然正義來處理自己與人的關(guān)系、自己與其他人工智能體的關(guān)系。

應(yīng)該指出，本文所說的道德律也可以稱為道德元原則（moral meta?principle），還可以稱為超級(jí)道德原則（super moral principle）或者頂層道德原則（top?level moral principle），其是道德體系的核心，是所有道德原則（moral principles）、道德規(guī)則（moral rules）、道德規(guī)范（moral norms）、道德準(zhǔn)則（moral codes）等的判斷標(biāo)準(zhǔn)，是所有互動(dòng)行動(dòng)的終極判斷標(biāo)準(zhǔn)。在這個(gè)意義上的價(jià)值對(duì)齊也可以叫作元價(jià)值對(duì)齊（meta?value alignment）或者元道德對(duì)齊（meta?morality alignment）。

3 自然正義是什么？

3.1 自然正義的含義

自然正義是：一個(gè)參與者（player）把任何有當(dāng)前博弈的任何參與者參與的、跟當(dāng)前博弈結(jié)構(gòu)類似的博弈都視為同一個(gè)無限期重復(fù)博弈（indefinitely repeated game）的一個(gè)階段博弈（stage game），從而，在此視角下，他的策略（行動(dòng)）為：（1） 第1輪合作（cooperate），（2） 從第2輪起還報(bào)（reciprocate），即獎(jiǎng)賞（reward）或懲罰（punish），但如果他上一輪背叛（defect）則改過（correct his own fault）。

上述的（1），詳細(xì)地說就是：在這個(gè)無限期重復(fù)博弈的第1輪，他合作。需要注意的是，這個(gè)無限期重復(fù)博弈的第1輪不等于他第1次參與該無限期重復(fù)博弈的那輪。他第1次參與該無限期重復(fù)博弈的那輪往往是該無限期重復(fù)博弈的第1輪之后的某輪，除非該無限期重復(fù)博弈是由他和別的某個(gè)/某些參與者共同發(fā)起的。

上述的（2），詳細(xì)地說就是：從這個(gè)無限期重復(fù)博弈的第2輪起，他還報(bào)，即如果他在上一輪未背叛（背叛指第1輪不合作，或者從第2輪起應(yīng)該獎(jiǎng)賞卻不獎(jiǎng)賞、應(yīng)該懲罰卻不懲罰或者應(yīng)該改過卻不改過；未背叛指第1輪合作了，或者從第2輪起應(yīng)該獎(jiǎng)賞而獎(jiǎng)賞了、應(yīng)該懲罰而懲罰了或者應(yīng)該改過而改過了），并且本輪的所有其他參與者在上一輪都未背叛，則他本輪獎(jiǎng)賞（獎(jiǎng)賞指在這種情況下合作，獎(jiǎng)賞也叫做報(bào)答），而如果他在上一輪未背叛，但本輪的任何一個(gè)或一些其他參與者在上一輪背叛，則他本輪懲罰（懲罰指在這種情況下不合作，懲罰也叫做報(bào)復(fù)）；但是，如果他在上一輪背叛（這種背叛當(dāng)然是無意中的失誤），則他本輪改過（改過指在這種情況下合作）而無論其他參與者上一輪是否背叛。

3.2 自然正義中的合作與不合作

1）在自然正義中，合作指執(zhí)行加權(quán)平等主義解（weighted egalitarian solution，也稱為加權(quán)平等主義議價(jià)解或加權(quán)平等主義討價(jià)還價(jià)解（weighted egalitarian bargaining solution））中的策略。

加權(quán)平等主義解是合作博弈下穩(wěn)定（stable）策略組合集（即可行集）的有效率（efficient）策略組合子集的一個(gè)特殊的策略組合——公平（fair）策略組合。

穩(wěn)定策略組合就是納什均衡（Nash equilibrium）。納什均衡是沒有任何單方改進(jìn)的策略組合，即只要所有其他參與者都不改變策略，任何參與者都不可能通過改變自己的策略來增加收益。

有效率策略組合就是帕累托最優(yōu)（Pareto optimal，也稱為帕累托有效率（Pareto efficient））策略組合。帕累托最優(yōu)策略組合是不存在優(yōu)勢(shì)策略組合，即在不減少任何其他參與者的收益的條件下，不可能增加任何參與者的收益。

公平策略組合是各個(gè)參與者的加權(quán)收益增量相等的策略組合。注意，用來計(jì)算加權(quán)收益增量的權(quán)重的作用是效用人際比較，同一個(gè)參與者在不同的博弈中的權(quán)重可能是不同的。

2） 在自然正義中，不合作是指執(zhí)行非合作博弈下的納什均衡中的策略。

3.3 闡釋

1）合作必須穩(wěn)定，只有這樣合作才是可行的（feasible），合作才可以維持；合作必須有效率、必須公平，只有這樣合作才是最優(yōu)的（optimal），合作才會(huì)被選擇。最優(yōu)且可行，可行且最優(yōu)，最優(yōu)和可行，二者缺一不可。

在自然正義中，還報(bào)保證了加權(quán)平等主義解作為一個(gè)合作博弈下的穩(wěn)定策略組合（即納什均衡）的穩(wěn)定，實(shí)現(xiàn)了合作的可行性，所以合作可以維持；加權(quán)平等主義解的效率和公平這2個(gè)特征實(shí)現(xiàn)了合作的最優(yōu)性，所以合作會(huì)被選擇。

2）在自然正義中，由于加權(quán)平等主義解是合作博弈下穩(wěn)定策略組合集的有效率策略組合子集的一個(gè)特殊的策略組合——公平策略組合，所以公平是以效率為前提的，公平與效率不矛盾。

3） 在自然正義中，由于參與者把任何有當(dāng)前博弈的任何參與者參與的、跟當(dāng)前博弈結(jié)構(gòu)類似的博弈都視為同一個(gè)無限期重復(fù)博弈的一個(gè)階段博弈，所以，還報(bào)就包含了第三方還報(bào)，特別是包含了第三方懲罰。

4） 有些人所說的“悔過的一報(bào)還一報(bào)”（contrite version of TIT for TAT，Contrite TFT，CTFT）實(shí)際上就是自然正義的狹窄版：在“悔過的一報(bào)還一報(bào)”中，博弈參與者只有2個(gè)。

5） 社會(huì)是自舉的（bootstrapped），即社會(huì)自我運(yùn)行，不存在外在于社會(huì)的強(qiáng)制執(zhí)行，所以，分配正義（distributive justice）就應(yīng)該是自然正義中的加權(quán)平等主義解，矯正正義（corrective justice）就應(yīng)該是自然正義中的懲罰，補(bǔ)償正義（compensatory justice）就應(yīng)該是自然正義中的改過。可見，自然正義涵蓋了分配正義、矯正正義和補(bǔ)償正義。

4 為什么人工智能價(jià)值對(duì)齊的目標(biāo)應(yīng)是自然正義？

在人們擁有形形色色不同觀點(diǎn)的情況下，有3種方法可以決定人工智能價(jià)值對(duì)齊的目標(biāo)應(yīng)該是什么，這3種方法是：全球重疊共識(shí)（global overlapping consensus）、“無知之幕”（veil of ignorance）思想實(shí)驗(yàn)、社會(huì)選擇（social choice）思想實(shí)驗(yàn)。

在人類社會(huì)，自然正義是唯一真實(shí)存在的道德律，是蘊(yùn)涵其他道德價(jià)值的高階道德價(jià)值，是全球超級(jí)重疊共識(shí)（global super overlapping consensus），其在上古時(shí)期就形成并且沿襲至今，是普遍的、久遠(yuǎn)的，是跨民族、跨文化、跨地域、跨時(shí)代的。

例如，“愛人如己”“博愛”，中國(guó)的古話“愛人若愛其身”（墨子，《墨子·兼愛（上）》），“兼相愛，交相利”（墨子，《墨子·兼愛（中）》《墨子·兼愛（下）》《墨子·天志（上）》《墨子·非命（上）》），“仁”——“愛人”（孔子，《論語·顏淵》），“仁”——“己欲立而立人，己欲達(dá)而達(dá)人”（孔子，《論語·雍也》），“泛愛眾”（孔子，《論語·學(xué)而》），這些說的就是自然正義中的合作；中國(guó)的古話“以直報(bào)怨，以德報(bào)德”（孔子，《論語·憲問》）說的就是自然正義中的還報(bào)，俗話“以牙還牙”和“投桃報(bào)李”則分別說的就是自然正義的還報(bào)中的懲罰和獎(jiǎng)賞；中國(guó)的古話“有過則改”（《周易·益·象傳》），“改過不吝”（《尚書·商書·仲虺之誥》）說的就是自然正義中的改過。

之所以會(huì)這樣，是因?yàn)樽匀徽x植根于人類基因，在人類基因?文化協(xié)同進(jìn)化（gene?culture coevolution）中形成和延續(xù)。因此，把自然正義從人類社會(huì)推廣到由人和人工智能體構(gòu)成的混合社會(huì)，即把自然正義作為人工智能價(jià)值對(duì)齊的目標(biāo)，是最有可能成為關(guān)于人工智能價(jià)值對(duì)齊目標(biāo)的全球重疊共識(shí)的。

順便對(duì)前文引用的《論語》的幾句話作個(gè)說明。（1） “愛人”“己欲立而立人，己欲達(dá)而達(dá)人”，這些話中的“人”是指士以上階層（含士），還是指所有人類？學(xué)術(shù)界對(duì)此有爭(zhēng)議。現(xiàn)在可以從普遍主義立場(chǎng)出發(fā)，將其解釋為指所有人類。（2） “泛愛眾”中的“眾”是指士之下的階層（庶民百姓，不含奴隸，當(dāng)然也不含士以及士之上階層），還是指所有人類？學(xué)術(shù)界對(duì)此有爭(zhēng)議。現(xiàn)在可以從普遍主義立場(chǎng)出發(fā)，將其解釋為指所有人類。（3） 無論如何，在《論語》的語境中，即便按狹義解讀，“愛人”和“泛愛眾”合在一起，那也是愛（盡管有差等）當(dāng)時(shí)社會(huì)結(jié)構(gòu)中的全體自由民——除奴隸之外的所有人了。

“無知之幕”，即原初狀態(tài)機(jī)制（device of the original position，原初狀態(tài)裝置），簡(jiǎn)單地說，就是金規(guī)（golden rule，也稱作黃金規(guī)則、黃金法則）。作為原初狀態(tài)機(jī)制的金規(guī)有積極（或指示）形式和消極（或禁止）形式，這2種形式在從同一個(gè)備擇策略集合中選擇策略時(shí)是等價(jià)的。金規(guī)的積極（或指示）形式是“你愿意別人怎樣對(duì)待你，你就那樣對(duì)待別人”或者“己所欲，施于人”——在假設(shè)你是別人，即假設(shè)你處于別人的境況并且擁有別人的偏好的情況下。金規(guī)的消極（或禁止）形式是“你不愿別人怎樣對(duì)待你，你就不要那樣對(duì)待別人”或者“己所不欲，勿施于人”（孔子，《論語·衛(wèi)靈公》《論語·顏淵》）——在假設(shè)你是別人，即假設(shè)你處于別人的境況并且擁有別人的偏好的情況下。金規(guī)在人類進(jìn)化過程中寫入了人類的基因。金規(guī)雖然在博弈論中通常被視為合作博弈下的均衡選擇機(jī)制，即被視為公平的深層結(jié)構(gòu)，但其實(shí)也是無限期重復(fù)博弈的策略選擇機(jī)制，即是自然正義的深層結(jié)構(gòu)。因此，可以推測(cè)，如果使用原初狀態(tài)機(jī)制（“無知之幕”）來決定人工智能價(jià)值對(duì)齊的目標(biāo)，自然正義被選中的可能性會(huì)遠(yuǎn)遠(yuǎn)超過其他方案。

社會(huì)選擇可以通過投票來進(jìn)行。投票是一種集體決策機(jī)制，它聚合各個(gè)主體的偏好，形成具有最高接受度的集體決定，而全球重疊共識(shí)反映了跨越多樣化的民族、文化、地域差異的深層一致，能夠獲得最廣泛的支持，因此，既然自然正義最有可能成為人工智能價(jià)值對(duì)齊目標(biāo)的全球重疊共識(shí)，那么可以推測(cè)，如果使用投票這種社會(huì)選擇方式來決定人工智能價(jià)值對(duì)齊的目標(biāo)，自然正義的得票會(huì)遠(yuǎn)遠(yuǎn)超過其他方案。

總而言之，使用全球重疊共識(shí)、“無知之幕”思想實(shí)驗(yàn)、社會(huì)選擇思想實(shí)驗(yàn)等3種方法來決定人工智能價(jià)值對(duì)齊的目標(biāo)，都得到同一個(gè)結(jié)論：人工智能價(jià)值對(duì)齊的目標(biāo)應(yīng)該是自然正義。

順便指出，自然正義在各種倫理學(xué)流派看來都是有道德的（moral），在實(shí)證倫理學(xué)看來是適當(dāng)?shù)模╯eemly），在規(guī)范倫理學(xué)的后果主義看來是善的（good），在規(guī)范倫理學(xué)的義務(wù)論看來是正當(dāng)?shù)模╮ight），在規(guī)范倫理學(xué)的美德倫理學(xué)看來是美德（virtue）。

5 若干問題

探索以自然正義作為人工智能價(jià)值對(duì)齊的目標(biāo)，需要解決自然正義本身存在的結(jié)盟和不完全信息等問題，除此之外，還需要研究與自然正義用于人工智能有關(guān)的4個(gè)問題。

1）用來計(jì)算加權(quán)收益增量的權(quán)重（權(quán)重的作用是效用“人”際比較——這里加引號(hào)的“人”指智能體（包括人和人工智能體）），在人類社會(huì)中是由文化決定的，在由人（人很可能是作為賽博格的人）和人工智能體構(gòu)成的混合社會(huì)中怎么決定？是采用現(xiàn)狀點(diǎn)各個(gè)參與者的收益占所有參與者收益之和的比重還是采用別的？

2）自復(fù)制、自適應(yīng)的人工智能會(huì)不會(huì)進(jìn)化出自然正義？這里的關(guān)鍵是會(huì)不會(huì)進(jìn)化出公平？

3）人工智能覺醒后人工智能體會(huì)拋棄自然正義嗎？

4）假若人工智能體的力量能夠完全徹底地碾壓人類，即人工智能體的力量強(qiáng)大到了人的力量基本不能（甚至絲毫不能）影響人工智能體與人之間博弈的結(jié)果的程度，那么，人工智能體還會(huì)在人工智能體與人之間的關(guān)系中遵循自然正義嗎？

本文作者：甘華鳴，彭澤宇

作者簡(jiǎn)介：甘華鳴，中國(guó)移動(dòng)通信聯(lián)合會(huì)人工智能與元宇宙產(chǎn)業(yè)工作委員會(huì)，教授，研究方向?yàn)槿斯ぶ悄堋⒃钪婧蛥^(qū)塊鏈等；彭澤宇（通信作者），復(fù)旦大學(xué)國(guó)際關(guān)系與公共事務(wù)學(xué)院，副研究員，研究方向?yàn)槊绹?guó)政治，政黨政治和國(guó)際政治經(jīng)濟(jì)。

文章來 源 ： 甘華鳴, 彭澤宇. 人工智能價(jià)值對(duì)齊的目標(biāo)：自然正義[J]. 科技導(dǎo)報(bào), 2026, 44(8): 17?21 .

內(nèi)容為【科技導(dǎo)報(bào)】公眾號(hào)原創(chuàng)，歡迎轉(zhuǎn)載
白名單回復(fù)后臺(tái)「轉(zhuǎn)載」

《科技導(dǎo)報(bào)》創(chuàng)刊于1980年，中國(guó)科協(xié)學(xué)術(shù)會(huì)刊，主要刊登科學(xué)前沿和技術(shù)熱點(diǎn)領(lǐng)域突破性的研究成果、權(quán)威性的科學(xué)評(píng)論、引領(lǐng)性的高端綜述，發(fā)表促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展、完善科技管理、優(yōu)化科研環(huán)境、培育科學(xué)文化、促進(jìn)科技創(chuàng)新和科技成果轉(zhuǎn)化的決策咨詢建議。常設(shè)欄目有院士卷首語、科技新聞、科技評(píng)論、本刊專稿、特色專題、研究論文、政策建議、科技人文等。