諾貝爾獎得主Hassabis:AI將帶來核和生物安全風險,我們沒時間了!

當地時間7月14日，Google DeepMind CEO、諾貝爾化學獎得主Demis Hassabis發布長文《前沿AI框架與新時代的曙光》，系統闡述了他對AGI臨近時代的判斷，以及未來全球 AI 治理框架的設想。

在他看來，人工通用智能（AGI）“很可能只需短短幾年就會到來”，而今天的人類正“站在奇點（Singularity）的山麓”，即將迎來“人類一個新時代的曙光”。

他認為，AGI的意義甚至不能與互聯網或移動互聯網相比，而更接近于人類發現電力或火，“我們實際上找到了一種讓沙子學會思考的方法。這堪稱奇跡。”

與此同時，Hassabis也強調，在前沿模型能力快速提升、網絡安全、生物安全等風險不斷增加的背景下，全球需要盡快建立一套動態、嚴格、可持續更新的前沿 AI 標準體系。

他建議美國率先成立類似金融業監管局（FINRA）的獨立標準機構，對達到“Frontier-class（前沿級）”能力的大模型實施統一測試與評估，并最終推動形成全球統一的前沿 AI 安全標準。

以下為全文——

這是人類歷史上的一個關鍵時刻。

人工通用智能（AGI）——一種具備人腦全部認知能力的系統——很可能只需短短幾年就會到來。

當我們在未來幾十年回望今天時，我認為，我們會意識到自己正站在奇點（Singularity）的山麓。

這不僅如此，更意味著人類一個新時代的曙光已經出現。

我一生都在致力于 AGI，因為我始終堅信，只要能夠以負責任的方式構建和部署，它將成為人類有史以來最有益、最具變革性的技術之一。

AGI 無法與一般意義上的技術突破相提并論，哪怕是互聯網或移動通信這樣影響深遠的發明也不能相比。

它更接近于人類發現電力或火的意義。

如果仔細想想，我們實際上找到了一種讓沙子學會思考的方法。

這堪稱奇跡！

這項技術所帶來的影響規模將前所未有，也許會以工業革命 10 倍的影響力、10 倍的速度 改變世界。

它將幫助我們解決社會面臨的一些最重大問題，從加速藥物研發，到開發新的清潔能源，再到創造全新的先進材料。

我們甚至可能走到這樣一個階段：資源不再成為限制人類進步的瓶頸，由此開啟一個令人驚嘆的豐裕新時代。

前沿時代的挑戰

AI 已經開始為現實世界帶來切實的收益。但如果我們想真正兌現它的巨大潛力，就必須在這一關鍵的發展階段保持深思熟慮、謹慎前行。

隨著我們越來越接近 AGI，現在迫切需要采取行動，應對可能出現的風險。

我們已經看到，前沿模型給網絡安全帶來了新的挑戰；隨著能力持續提升，核安全、生物安全等其他風險也可能很快出現。

展望未來，我們還需要建立強有力的安全保障機制，以確保人類能夠持續控制那些越來越具備自主代理能力（agentic）、能夠遞歸式自我改進的系統，并應對那些只有隨著時間推移才會逐漸顯現的未知問題。

我始終相信，人類的智慧和創造力足以解決任何問題。

我相信，AI 相關的技術風險是我們能夠共同緩解的挑戰。但前提是，我們必須給自己留出足夠的時間和空間，把眼前這關鍵的一步走對。

而目前，無論是整個 AI 行業，還是整個社會，我們都沒有做到這一點。

眼下，我們正深陷一場極其激烈、層層疊加的商業競爭和地緣政治競賽。

這些競爭確實推動了快速進步，也加速釋放了 AI 所帶來的巨大紅利；但與此同時，前沿技術的發展速度，已經超過了我們對它自身的理解速度。

世界上沒有任何人能夠確定接下來會發生什么，即使是最頂尖的專家之間也存在分歧。

當不確定性如此之大、賭注如此之高時，以謹慎而樂觀的態度前進，是最合理、也是最正確的策略。

這意味著，我們需要制定既鼓勵創新、又激勵責任與安全的公共政策；推動各國圍繞關鍵安全問題開展國際合作；同時認真思考如何部署 AI，使其真正造福整個社會。

建立前沿 AI 標準機構框架

AI 的快速進展，需要一種全新的前沿 AI 能力測試方式。這套體系必須具備動態性、適應性和嚴格性。

憑借美國當前的經濟實力和技術優勢，它完全有條件率先建立這樣一個框架。

美國可以成立一個新的標準機構（Standards Body），其模式類似于由聯邦政府監管的公私合作機構或行業自律組織，例如美國金融業監管局（FINRA）。

該機構應設立董事會，其中包括獨立的頂尖技術專家以及開源社區代表。

為了吸引世界一流技術人才，并提供開展大規模測試所需的算力資源，這一機構需要獲得充足的資金支持，而資金很可能主要來自產業界。

該標準機構將負責制定評估協議，并與相關聯邦機構及美國國家實驗室合作，對涉及國家安全的重要領域開展測試。

如果某一模型在由標準機構制定、并持續更新的一系列基準測試中達到規定門檻，它將被認定為“前沿級（Frontier-class）模型”。

擁有符合這些標準模型的機構，則將被認定為“前沿實驗室（Frontier Labs）”。

這些實驗室將被鼓勵采用最佳實踐，例如：

• 發布包含技術細節的模型卡（Model Card）；
• 建立完善的內部網絡安全體系；
• 對關鍵崗位人員進行背景審查；
• 為安全與安保研究提供充足資源；
• 以及采取更多相關措施。

在初期階段，前沿實驗室將自愿在模型正式發布前最多 30 天，將模型提交給標準機構進行審核。

一旦評估體系被證明足夠有效且可靠，便可以迅速將其制度化，屆時所有前沿模型都必須通過該項測試，才能部署到美國市場。

與此同時，各實驗室還應與標準機構合作，共同修復模型發布后發現的重大安全漏洞。

模型評估應包括嚴謹的科學測試，重點覆蓋網絡安全、生物威脅以及其他高風險領域。

針對具備代理能力（Agentic AI）的模型，還應專門設計測試，以檢查模型是否會試圖繞過安全護欄、是否存在欺騙行為，并確保行業最佳實踐得到落實，例如：

• 對 AI 生成圖片添加數字水??；
• 輸出人類可讀的推理 Token，以幫助理解模型的推理過程。

這些評估標準應定期更新，初期可按季度進行。

已經失效或趨于飽和的測試基準應及時淘汰，并由新的評估體系替代。

最初，這些評估標準可以與前沿實驗室共同制定；但長期來看，標準機構應建立獨立研發能力，自主開發實驗室無法提前接觸（held-out）的測試，以避免針對公開基準的過擬合。

標準機構還可以與美國政府合作，培育第三方審計機構生態，協助開展模型評估，并共同開發新的基準測試體系。

這一方案最大的優勢，在于它聚焦技術本身，同時兼顧創新發展，并激勵負責任的行為。

它能夠隨著 AI 的快速發展不斷演進，并針對新識別出的重大風險持續調整。

如果未來形勢更加嚴峻，該框架還可以進一步升級，包括在必要時協調各家前沿實驗室共同放緩研發速度。

成為“前沿實驗室”本身將是一項極具聲望的身份認定。

任何機構，只要開發出的模型達到規定基準，都可以獲得這一資格。

這一框架適用于所有前沿級模型，無論它們來自哪個國家，也無論采用開源還是閉源方式。

但對于尚未達到前沿水平的模型，例如創業公司或學術機構開發的模型，則無需納入這一監管流程。

由美國率先推動這一努力，將為建立全球統一的前沿 AI 國際標準提供一個堅實起點。

由于這項技術將影響整個地球，理想情況下，這一框架應推動國際社會就如何管理最嚴重的風險達成共識，同時確保所有人都能夠獲得 AI 帶來的機遇，并從中受益。

未來尚未寫定

AGI 有潛力成為推動科學和醫學進步的終極工具，并帶來巨大的生產力提升和經濟增長。

但要實現這一目標，我們首先必須夯實技術基礎：圍繞全球共同框架開展協作，采用最嚴格的科學方法，并匯聚世界最優秀的人才，共同應對眼前的挑戰。

即使我們解決了這些艱難的技術問題，未來仍然會出現更加復雜的經濟與哲學問題需要面對：

在一個資源不再稀缺的世界里，我們需要怎樣的新經濟模式，才能讓每個人都擁有發展的機會？

我們希望遵循怎樣的價值觀生活？

意義與目標將意味著什么？

甚至，人類自身的存在狀態又將發生怎樣的變化？

這些問題顯然不能、也不應該只交給技術人員決定。

它需要整個社會共同參與，一起定義人類歷史的新篇章。

圍繞 AI，人們既充滿興奮，也充滿不確定性。

這兩種情緒都完全合理。

但未來尚未寫定。

我們必須利用 AGI 到來之前這段寶貴的時間窗口，共同塑造這項技術，使其真正造福全人類。

今天我們共同作出的每一個選擇，都將決定下一階段文明將如何展開。

如果我們能夠安全地將 AGI 引入世界，我們就有機會邁入科學發現與社會進步的新黃金時代，并迎來一個人類空前繁榮的光明未來。