數(shù)學(xué)害怕AI造出假證明，而生物學(xué)擔(dān)心的問題更加棘手

認(rèn)真閱讀下面的文章，并思考文末互動提出的問題，嚴(yán)格按照互動：你的答案格式在評論區(qū)留言，就有機會獲得由湛廬文化提供的優(yōu)質(zhì)科普書籍《世界的邏輯》。

在《萊頓宣言》中，數(shù)學(xué)家們發(fā)表了一篇論述人工智能如何對數(shù)學(xué)領(lǐng)域構(gòu)成挑戰(zhàn)的論文。其他領(lǐng)域也應(yīng)效仿。

今年6月，一群以數(shù)學(xué)家為主的學(xué)者發(fā)布了《萊頓宣言：人工智能與數(shù)學(xué)》。這份宣言闡述了他們在將自動化系統(tǒng)融入數(shù)學(xué)證明開發(fā)實踐過程中希望恪守的價值觀。之所以有必要這樣做，是因為一些前沿的人工智能系統(tǒng)在解決某些高級數(shù)學(xué)問題方面展現(xiàn)出了驚人的能力，盡管獨立測試表明人工智能仍然存在重大局限。

人工智能在解決數(shù)學(xué)問題方面展現(xiàn)出驚人的能力。圖源：AI生成。

嚴(yán)格來說，我（譯者注：作者）并不是純數(shù)學(xué)圈內(nèi)人，但該宣言中的許多觀點讓我深有同感，也與我作為計算生物學(xué)家的研究方向密切相關(guān)。

令我感到鼓舞的是，數(shù)學(xué)界決定在AI問題上旗幟鮮明地表態(tài)，并成功召集了一大批著名數(shù)學(xué)家簽署這份文件。源自荷蘭萊頓大學(xué)一次會議的《萊頓宣言》，應(yīng)當(dāng)能引發(fā)更多類似的倡議，因為對數(shù)學(xué)而言成立的道理，對幾乎所有自稱是科學(xué)的領(lǐng)域同樣適用。數(shù)學(xué)的創(chuàng)新成果滲透到各種算法和統(tǒng)計方法中，這些方法幫助科學(xué)家設(shè)計實驗、構(gòu)建模擬模型并分析數(shù)據(jù)，其應(yīng)用范圍從社會學(xué)到統(tǒng)計物理學(xué)，乃至更廣闊的領(lǐng)域。

我認(rèn)為，生物學(xué)領(lǐng)域也該考慮做點類似的事情了，因為生物學(xué)所產(chǎn)生和預(yù)測的那類知識，尤其容易被人工智能歪曲和顛覆。

生物學(xué)中的DNA雙螺旋結(jié)構(gòu)。圖源：Pixabay。

數(shù)學(xué)界就此展開的討論發(fā)人深省，因為這份宣言是對人工智能的強大能力及其風(fēng)險所作出的協(xié)調(diào)回應(yīng)——AI的加速發(fā)展，簡直像《復(fù)仇者聯(lián)盟》里滅霸的那一記“響指”，瞬間改變了整個宇宙。數(shù)學(xué)家之所以能如此迅速地感受到其影響，部分原因在于他們的研究方式：原則上，數(shù)學(xué)證明是透明且可獨立驗證的，而且（通常）無需任何專有設(shè)備即可進(jìn)行核查。

正如《萊頓宣言》所指出的，自動化技術(shù)如今給數(shù)學(xué)領(lǐng)域帶來了一個新的偽造問題：由于數(shù)學(xué)真理是固定且可驗證的，因此只要跟真正的證明一比對，就能識破贗品。然而，生物學(xué)卻無法提供這樣的保證；我們所謂的“真理”往往充滿噪聲、依賴情境，這使得我們幾乎不可能定義“真版本”該是什么樣子。一些廣受認(rèn)可的生物學(xué)原理（例如孟德爾的遺傳定律）更適合被描述為：雖然強大，但適用范圍有限，并且存在已經(jīng)研究得相當(dāng)清楚的例外——這些例外不僅不會動搖定律本身，反而能完善其應(yīng)用。許多生物學(xué)理論都是如此。邊界條件、邊緣案例和噪聲并非缺陷（bugs），而是自然界運行機制的固有特征（features）。

人工智能在生物領(lǐng)域又將如何合理應(yīng)用并加以驗證？圖源：AI生成。

舉個例子，一個讓某種遺傳背景下的病毒產(chǎn)生耐藥性的突變，換到另一種遺傳背景中，效果可能就大大減弱，變得不好不壞，甚至反而有害——因為它的影響極度依賴周圍的遺傳環(huán)境。生物學(xué)家將這一現(xiàn)象稱為“上位效應(yīng)”（epistasis），它并非某種罕見的特例，而是遍及整個生物圈、塑造著基因與生物性狀之間關(guān)系的一股強大力量。上位效應(yīng)，僅僅是生物系統(tǒng)中“情境依賴性”的眾多例子之一。一個發(fā)現(xiàn)在培養(yǎng)皿里成立，進(jìn)了活生生的身體里可能就完全不靈了；或者在小鼠模型中有效，到了靈長類身上卻毫無作用。

面對AI，數(shù)學(xué)家擔(dān)心會得出一個偽解。可生物學(xué)家，即便是懷著最純粹的善意，也常常說不清真解究竟該是什么樣子。

生物學(xué)宣言

盡管數(shù)學(xué)與生物學(xué)差異巨大，但生命科學(xué)領(lǐng)域還是應(yīng)該考慮發(fā)起一場至少與《萊頓宣言》類似的行動嘗試。退一步講，生物學(xué)版本至少可以借鑒它的結(jié)構(gòu)與抱負(fù)。我們應(yīng)當(dāng)堅持要求： 研究者必須披露自己對自動化工具的使用情況，他們要為自己發(fā)現(xiàn)的真實性負(fù)責(zé)，功勞與責(zé)任要落到人身上，而非系統(tǒng)身上。 我們還應(yīng)保護(hù)處于職業(yè)生涯早期的科學(xué)家，不讓他們被那種“重產(chǎn)出、輕真知”的激勵機制所裹挾。

一份生物學(xué)宣言不僅要吸納這些理念，還應(yīng)該強調(diào)對本領(lǐng)域至關(guān)重要的額外條款：根據(jù)濕實驗（wet lab）結(jié)果對AI生成的假設(shè)進(jìn)行對比驗證；對源自生物公共資源的訓(xùn)練數(shù)據(jù)進(jìn)行管理；以及，任何模型的輸出如果最終會觸及患者或生態(tài)系統(tǒng)，都必須受到更嚴(yán)格的審查。最后一點至關(guān)重要：在生物醫(yī)學(xué)領(lǐng)域，人工智能的失誤與成功都將體現(xiàn)在活生生的人身上，并伴隨相應(yīng)的生理、情感、倫理和法律后果。

實驗室培養(yǎng)皿里成功的案例在活體上卻可能無法適用。圖源：Pixabay。

一份生物學(xué)的《萊頓宣言》必須充分認(rèn)識到生物學(xué)領(lǐng)域中數(shù)據(jù)和觀察結(jié)果的本質(zhì)，以及該領(lǐng)域的其他具體特點。但在負(fù)責(zé)任地管理人工智能與生命系統(tǒng)之間關(guān)系方面，最重要的特征在于所產(chǎn)出成果的持久性。

數(shù)學(xué)聲明可以追求永恒，因為經(jīng)過驗證的證明在幾個世紀(jì)后依然有效。而生物學(xué)的認(rèn)知卻會隨時間推移而變化，有時還變化得飛快。一項根據(jù)今年夏天模型倉促敲定的政策，到了冬天可能就已經(jīng)對不上號了。一份指望能管用十年的宣言，恐怕這十年里大部分時間都得花在苦苦追趕現(xiàn)實變化上。

如果我們要為生命科學(xué)領(lǐng)域的人工智能制定一份負(fù)責(zé)任的宣言，它就一定要是可演進(jìn)的：要有版本號、注明日期、按照既定時間表定期再審查，并由其聲稱所代表的學(xué)術(shù)界在公開場合進(jìn)行修訂。而且，由于生物學(xué)不同子領(lǐng)域面臨著獨特的挑戰(zhàn)——例如心臟病學(xué)與森林生態(tài)學(xué)——也許我們需要多份宣言（但數(shù)量不宜過多）。

《萊頓宣言》納入了其中一些要素，明確其內(nèi)容反映的是截至2026年5月的AI技術(shù)與數(shù)學(xué)實踐，并承諾會分享后續(xù)更新。生物學(xué)應(yīng)該把這種可演進(jìn)的特質(zhì)變成宣言的核心架構(gòu)，把修訂機制直接刻入文本，這樣一來，更新文件就成了一種積極的行動，而不是一種認(rèn)錯的姿態(tài)。

幸運的是，生命科學(xué)家完全有能力應(yīng)對這一任務(wù)。我們早就明白，無法隨環(huán)境變化而改變的結(jié)構(gòu)很少能長久存在。所以，如果起草一份宣言卻忽略了這一基本原則，那對我們這門學(xué)科來說，可真是一種說不過去的背叛。我們?yōu)榧夹g(shù)變革制定的政策，必須把生命系統(tǒng)的那份動態(tài)活力，放在我們想象生物學(xué)未來的正中心。

作者：C. Brandon Ogbunu

翻譯：zzz

審校：姬子隰

fu

li

shi

jian

今天我們將送出由湛廬文化提供的《世界的邏輯》。

本書源于南方科技大學(xué)一課難求的“馬導(dǎo)的邏輯課”，探索“如何用理性應(yīng)對世界的不確定性”：從亞里士多德邏輯的誕生到哥德爾不完備定理，從量子力學(xué)顛覆“確定因果”到混沌理論揭示“預(yù)測極限”，從貝葉斯統(tǒng)計改寫“認(rèn)知邏輯”到熵增定律破解“躺平陷阱”——馬兆遠(yuǎn)教授用“科學(xué)史+思維進(jìn)化”的雙重視角，還原理性與科學(xué)的本質(zhì)：它們不是“終極答案”，而是人類應(yīng)對未知的“思維工具”。

無論你是被職業(yè)選擇困擾的年輕人、在商業(yè)浪潮中尋找方向的創(chuàng)業(yè)者，還是渴望提升思維深度的終身學(xué)習(xí)者，都將從書中獲取一套“應(yīng)對不確定性的頂層思維”。

【互動問題：如果物理學(xué)界要發(fā)布類似《萊頓宣言》的聲明，你覺得會是什么樣的呢？】

請大家嚴(yán)格按照互動：問題答案的格式在評論區(qū)留言參與互動，格式不符合要求者無效。

截止到本周四中午12：00，參與互動的留言中點贊數(shù)排名第二、三、五的朋友將獲得我們送出的圖書一套（點贊數(shù)相同的留言記為并列，并列的后一名次序加一，如并列第二的后一位讀者記為第三名，以此類推）。

為了保證更多的朋友能夠參與獲獎，過往四期內(nèi)獲過獎的朋友不能再獲得獎品，名次會依次順延

*本活動僅限于微信平臺

編輯：姬子隰

翻譯內(nèi)容僅代表作者觀點

不代表中科院物理所立場