DeepMind最新報告：AI正在批量生產科學假設，但誰來證明它們是真的？

來源：DeepTech深科技

運營/排版：何晨龍

一個科學家團隊花了近十年研究的問題，AI 智能體只用了兩天，就給出了相同的答案。

帝國理工學院微生物學家 José Penadés 和他的團隊長期研究一個問題：某些“超級細菌”究竟如何傳播抗生素耐藥性？經過多年研究，他們逐漸確認，一些細菌會獲得來自病毒的尾部結構，并把它們當作“鑰匙”，借此進入不同的宿主物種。

這項研究當時尚未發表。2024 年，Penadés 將一個簡化后的研究問題交給谷歌 DeepMind 開發的 AI 智能體 Co-Scientist。48 小時內，Co-Scientist 給出了五種可能的解釋，并按照優先級排序。排名第一的假設，正是團隊多年實驗得出的結論。

Penadés 的第一反應不是興奮，而是懷疑自己的電腦遭到入侵。他隨即聯系谷歌，確認系統是否讀取了實驗室的未公開數據。得到的答案是否定的：AI 沒有偷看答案。

更出人意料的是，Co-Scientist 提出的四個額外假設中，其中一個是研究團隊此前沒有考慮過的方向，目前正在被進一步研究。

Penadés 承認，如果在研究開始時就擁有這樣的工具，團隊確實可以少走很多年的彎路。但同樣需要注意的是，即使 Co-Scientist 可以在兩天內提出正確假設，卻不能獨立證明這個假設。真正讓答案成為科學知識的，仍然是研究團隊多年積累的實驗數據。

近日，谷歌 DeepMind 發布了一篇報告《Conjecture Machines: AI agents and the new validation bottleneck in science》，討論了 AI 智能體如何改變科學研究。報告通過采訪多位內部研究人員和工程師，并結合 Co-Scientist、AlphaEvolve 等案例提出，智能體正在加速假設生成和候選方案搜索，但實驗、評審和結果理解的速度并未同步提高，“驗證”因而可能成為科學研究新的瓶頸。

為什么 AI 智能體變好用了？

在進一步討論這一瓶頸之前，這份報告先解釋了一個現狀：早期的 AI 智能體表現并不穩定，而科學研究恰恰對嚴密性和可靠性要求極高。那么，是什么讓智能體在近一年內突然具備了參與真實科研工作的能力？

報告將答案歸結為三項因素：基礎模型變得更強，模型外部的“腳手架”逐漸成熟，智能體也更容易根據具體科研需求進行定制。

（來源：DeepMind）

首先，基礎模型的推理能力變強了。報告稱，當前領先模型在 Humanity’s Last Exam、FrontierMath 等科學測試中的表現已經超過人類專家。相比測試成績，更重要的變化是，模型不再急于給出答案，而是能夠進行多步推理，在不同方案之間探索、比較和修正。

這使智能體可以處理更復雜的問題，從大量論文中尋找容易被忽視的信息，建立跨學科聯系，并判斷何時需要搜索文獻、運行代碼或調用其他工具。

其次，智能體有了更成熟的“腳手架”。它可以理解為包裹在基礎模型之外的一套工作系統，為模型增加規劃、記憶和使用工具的能力。借助這套系統，智能體可以檢索論文、執行代碼、使用科學軟件，也可以與其他智能體協作。

早期腳手架往往只適用于特定模型或任務，模型升級后可能需要重新設計，也很難遷移到別的智能體系統上。隨著智能體之間通信、調用工具的標準逐漸形成，這類系統有望更容易復用，減少對定制化腳手架的依賴。

第三，智能體變得更容易定制。基礎模型掌握了論文和教科書中的大量知識，卻缺少科學家在長期實踐中積累的經驗，例如如何培養特定細胞、處理實驗異常，或者讓復雜模擬順利運行。

現在，研究人員可以把部分工作方法整理成“智能體技能”，用一組指令告訴智能體如何執行任務、調用哪些工具、產生什么結果。這些技能可以在團隊內部共享和積累，實驗室也可以在安全條件下，讓智能體使用歷史實驗記錄等內部資料。

在這一模式下，智能體并不是獨立完成科學研究，而是承擔文獻整理、代碼運行、數據分析和候選方案生成等工作。科學家則負責設定目標、檢查結果并作出判斷。

計算生物學家 Natasha Latysheva 已經把自己研究流程中的部分方法整理成了智能體技能。她認為，盡管目前的 AI 智能體還不完全可靠，科研人員的工作方式仍可能逐漸從親自執行轉向更高層次的調度。“我們每天會先檢查智能體在夜間完成的實驗和分析，再調整研究方向，安排下一輪任務。”

AI 智能體正在怎樣改變科學研究？

AI 智能體帶來的直接變化，是成為科學家的數字助手。文獻篩選、數據庫查詢、數據整理和代碼編寫等任務，都可以部分交給智能體處理。谷歌 DeepMind 高級研究科學家 Matej Balog 認為，這能讓研究人員能夠完成一些過去受編程能力限制、難以獨立完成的工作。

但報告更關注智能體對科研核心流程的影響，即從構思、尋找最優解到驗證等階段，AI 正在不同程度上參與科學發現。

構思階段，科學家通常并不缺少想法，真正困難的是判斷哪些方向值得投入時間和實驗資源。智能體可以閱讀大量公開文獻，尋找分散在不同學科中的線索，再讓多個子智能體分別提出假設、相互批評和排序。

斯坦福大學研究人員 Gary Peltz 曾使用 Co-Scientist 尋找可以被重新用于治療肝纖維化的現有藥物。根據文獻和多年經驗，Peltz 選出兩個候選藥物，Co-Scientist 則推薦了三個。

在人體肝細胞實驗中，Peltz 選擇的兩個藥物均未表現出效果。AI 推薦的三個候選中，有兩個不僅抑制了纖維化，還促進了肝細胞再生。

這無疑是一個成功的案例。不過，智能體提出的假設并不一定可靠。Co-Scientist 負責人 Vivek Natarajan 提到，一份長篇分析中，即使只有一項關鍵內容由模型虛構，也可能使整個結論失效。他認為，科研智能體需要具備“認識論上的謙遜”，即能夠判斷自己何時缺少信息，并明確表達不確定性，而不是只給出一個看似完整的答案。

（來源：DeepMind）

構思之后，智能體還可以在大量候選方案中尋找更優解。AlphaEvolve 的方法是先生成多種候選算法，再按照預先設定的標準評分，保留表現較好的結果，并以此為基礎繼續迭代。據報告介紹，它已被用于輔助設計谷歌下一代 TPU 芯片、處理數學中的 Erd?s 問題，以及改進基因組數據分析。

“算法幾乎可以描述這個世界上的大部分科學和自然過程，”Balog 表示。正因如此，當一個問題能夠用代碼表達、候選方案又可以被快速評分時，智能體就能在較少人工干預的情況下持續搜索。

但在材料、化學和生命科學中，計算得分較高的方案通常只是一條線索。一個由智能體設計的催化劑仍需要被合成和測量，一種可能有效的藥物也需要經過細胞、動物和臨床實驗。AI 可以加快候選方案的生成，卻不能跳過現實驗證。

數學和計算機科學在一定程度上是例外，因為部分驗證可以在計算機中完成。DeepMind 開發的 Aletheia 將證明生成器與自然語言驗證器結合起來：一個系統提出證明，另一個檢查問題并將錯誤返回修改。在今年 2 月的首屆 First Proof 挑戰中，Aletheia 在一周內解決了十道未公開研究問題中的六道，是所有參賽系統中成績最好的。

但自動驗證也帶來新的問題。Aletheia 項目負責人 Thang Luong 將其稱為“證明消化不良”：AI 產生數學結果的速度，可能超過人類專家閱讀和審查的速度。

同樣從事數學 AI 研究的 Alex Davies 也在思考這場變革將把數學家推向何方。他說：“我可以想象這樣一個世界：機器負責發現，而數學家要做的，是理解這些發現，并判斷接下來哪些問題真正值得追問。”

從構思、搜索到驗證，AI 智能體的作用逐步深入，但不同環節的進展并不一致。機器可以迅速增加假設和候選方案的數量，實驗設施、專家審查和自然過程卻無法以相同的速度擴張。

科研體系如何應對驗證瓶頸？

隨著 AI 智能體能夠快速生成假設和候選方案，科研體系也需要擴大篩選、驗證和理解這些結果的能力。報告認為，政策制定者和科研資助機構需要重點處理四個問題：智能體的可及性、科研數據、實驗設施，以及同行評審。

第一，讓更多科學家能夠使用先進智能體。報告將其類比為過去的超級計算機的訪問權，一個國家除了要考慮能否訓練出自己的前沿模型，還需要考慮能否把智能體真正部署進大學和科研機構，以及實驗室該如何承擔相應費用。

雖然單位 AI 能力的成本可能持續下降，但隨著科研人員把越來越多、越來越復雜的任務交給智能體，實驗室在模型調用上的總支出恐怕不會同步減少。報告因此建議，科研資助機構需要盡快判斷：是在現有資助項目中增加預算，還是設立專門針對智能體使用的新資助渠道。同時，報告也建議簡化采購流程，讓研究人員可以按實際需要自主選擇工具，而不必經過繁瑣審批。

第二，智能體需要能讀取真正適合機器使用的科研數據。目前，不少科研資料以網頁、PDF 或下載文件的形式存在，雖然可以供人閱讀，卻缺少統一格式、清晰的元數據和穩定接口，難以被智能體持續調用。

報告建議，將開放或風險較低的公共數據整理為“智能體就緒”的數據資源，并加強質量控制、長期維護和跨平臺兼容。對于醫療、基因組和病毒學等敏感數據，則需要設置權限管理、隱私保護和操作審計機制。報告以英國 OpenSAFELY 項目為例：研究人員可以在受控環境中分析醫療數據，而無需直接接觸原始數據，未來類似的機制也可以延伸到智能體的數據訪問上。

第三，擴大實驗驗證能力。許多研究人員目前已經在為儀器和實驗設施的排期發愁，而當智能體持續產出新的候選假設，需要被驗證的項目只會越積越多。

報告提出了兩條路徑：一是加大對現有公共實驗設施的投入，把更多實驗臺位和儀器運行時間開放給外部研究團隊；二是推動自動化實驗室建設，用機器人和自動化儀器全天候運行標準化實驗。

谷歌 DeepMind 已經在英國弗朗西斯·克里克研究所建立了一間濕實驗室，并為部分使用 Co-Scientist 的獨立研究人員提供實驗經費；美國的 Genesis Mission 計劃則試圖打通能源部下屬國家實驗室、高校和 AI 企業之間的資源。由于自動化實驗室的建設成本高昂，報告建議采用公共投資和共享設施的模式，降低單個團隊使用這些資源的門檻。

第四，調整同行評審機制。AI 已經大幅降低了撰寫論文和基金申請書的成本，這意味著投稿和申請數量還會繼續攀升，而文字表達本身也越來越難以直接反映研究質量。學者 James Wilsdon 和 Geraint Rees 就指出，問題不只是供給量的增加，寫作質量本身已經不再是一個可靠的篩選標準。如果申請人普遍借助智能體準備材料，而評審者仍完全依靠人工逐一審閱，現有的評審壓力只會進一步加劇。

報告建議，評審者同樣可以借助智能體檢查引用是否準確、數據是否存在錯誤、證據鏈是否完整，從而把更多精力留給對研究價值本身的判斷。不過，由于評審材料通常尚未公開，相關工具的使用也需要滿足嚴格的保密和數據安全要求。

此外，研究人員還需要更清楚地說明 AI 在研究中的作用。報告提到了“人機交互卡”（Human-AI Interaction Cards）這一設想：記錄下產生關鍵研究思路時所使用的提示詞、模型輸出和后續的人工修改，讓評審者能夠追溯一項成果究竟是如何形成的。

顯然，智能體的普及會影響下一代科研人才的培養。但如果年輕研究人員在真正掌握基礎方法之前，就已經習慣把大量工作外包給 AI，未來可能難以形成審視和質疑機器輸出所需的專業判斷力。報告因此建議，科研訓練體系可以保留一定的無智能體階段，讓學生先扎實掌握基本方法，再逐步把智能體當作協作伙伴使用。

1.https://datumo.com/blog/insight/co-scientist-google-ai-en/

2.https://deepmind.google/public-policy/conjecture-machines-ai-agents-and-the-new-validation-bottleneck-in-science/

注：封面由 AI 輔助生成

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）