AI正在加速自我進化，留給人類的時間不多了

6月5日，Anthropic發(fā)表了一篇警示文章，《When AI buildes itself》，當(dāng) AI 開始建造自己，不禁要思考，我們?nèi)祟惤巧珜⑷绾胃淖儯?/p>

在 AI 發(fā)展的歷史中，人類長期主導(dǎo)著每一個開發(fā)環(huán)節(jié)。但如今，在 Anthropic，我們正將越來越多的AI開發(fā)工作委托給AI系統(tǒng)自身，這極大加速了我們的工作進展。

圖源：Anthropic

漢化：MarsKr

如果這一趨勢走得足夠遠，再配合充足的算力，最終可能誕生一個完全自主設(shè)計并開發(fā)自身繼任者的AI系統(tǒng)，這就是遞歸自我改進（Recursive Self-Improvement）。

我們尚未完全抵達這一步，且它并非必然發(fā)生。但Anthropic Institute的最新報告顯示：這一趨勢可能比大多數(shù)機構(gòu)預(yù)想的來得更早。

AI已在顯著加速AI自身的開發(fā)。一個最直觀的例子是：如今Anthropic工程師平均每個季度輸出的代碼量，是2021-2025年期間的8倍。

這些趨勢意味著AI能力將在未來幾年大幅躍升。它可能帶來科學(xué)、醫(yī)療等領(lǐng)域的巨大福祉，但也可能大幅增加人類失去對AI控制的風(fēng)險。當(dāng)系統(tǒng)能自主構(gòu)建后繼者時，安全、監(jiān)控和行為引導(dǎo)將變得至關(guān)重要。

01

—外部世界的證據(jù)：AI能力加速提升

AI 模型能可靠獨立完成的任務(wù)長度，正在每4個月翻一番（此前是每 7 個月）。

2024年3月：Claude Opus 3 可完成人類約 4 分鐘的任務(wù)；

2025年：Claude Sonnet 3.7 可處理約 1.5 小時的任務(wù)；

2026年：Claude Opus 4.6 已能應(yīng)對 12 小時的任務(wù)。

圖源：Anthropic

漢化：MarsKr

若趨勢延續(xù)，今年內(nèi) AI 就可能處理需人類數(shù)天完成的任務(wù)；2027年，甚至可能達到數(shù)周量級。

在基準(zhǔn)測試上也呈現(xiàn)飽和趨勢：

SWE-bench（真實軟件工程）：兩年內(nèi)從個位數(shù)得分到接近飽和；CORE-Bench（科研復(fù)現(xiàn)）：15 個月內(nèi)從 20% 成功率到接近飽和；METR 測試顯示，Claude Mythos Preview 已能連續(xù)工作至少 16 小時。

02

—Anthropic內(nèi)部證據(jù)：AI已深度參與開發(fā)

構(gòu)建前沿模型主要分為工程（寫代碼、搭建基礎(chǔ)設(shè)施、訓(xùn)練模型）和研究（設(shè)計實驗、解讀結(jié)果、決定下一步）兩大類。

在工程領(lǐng)域：Claude能接手不完全明確的問題，自主找出解決方案。人類只需提供目標(biāo)，無需提供具體方法。

在研究領(lǐng)域：Claude已能在執(zhí)行明確實驗時匹配甚至超越熟練人類，但在大方向判斷和目標(biāo)選擇上，仍存在明顯差距。這正是當(dāng)前AI與“自主設(shè)計繼任者”之間的關(guān)鍵鴻溝。

代碼產(chǎn)出爆炸式增長：

截至2026年5月，Anthropic合并到主代碼庫的代碼中， 超過80%由Claude撰寫（2025年2月Claude Code推出前，這一比例僅為個位數(shù)）。

2025年開始，工程師每天合并的代碼行數(shù)顯著上升；2026年，隨著模型自主工作時間延長，斜率進一步陡峭。

2026年第二季度，典型工程師的日代碼合并量是2024年的 8倍。

圖源：Anthropic

漢化：MarsKr

盡管代碼行數(shù)不是完美指標(biāo)（更重視質(zhì)量而非數(shù)量），但這清晰反映了生產(chǎn)力加速。員工主觀調(diào)查也顯示：2026年3月，中位員工認(rèn)為使用Mythos Preview后，產(chǎn)出提升約4倍。

Claude不僅寫得多，還寫得越來越好：

工程師干預(yù)、糾正Claude的比例持續(xù)下降。

在最開放的任務(wù)上，2026年5月成功率達 76%（半年提升50個百分點）。

示例：一次例行升級導(dǎo)致數(shù)萬訓(xùn)練任務(wù)崩潰，Claude僅用約2小時就定位問題并修復(fù)（人類通常需2-3天）。

代碼質(zhì)量方面：2025年底Claude代碼略遜于人類，如今已接近持平，預(yù)計年內(nèi)將超越。Anthropic現(xiàn)在使用Claude自動審查代碼變更，甚至能捕捉到頂尖工程師之前遺漏的部分bug。

研究能力同樣突飛猛進：

在優(yōu)化明確實驗?zāi)繕?biāo)時，Claude從2025年的~3x加速提升到2026年的~52x（人類熟練研究員需4-8小時達4x）。

2026年4月，Claude驅(qū)動的代理完成了首個端到端開放研究項目：在AI安全問題上，自主提出假設(shè)、測試、迭代，恢復(fù)了97%的性能差距（人類兩名研究員一周約23%）。

在開放調(diào)查任務(wù)中，模型判斷“下一步最佳行動”的能力也在提升。

一位Anthropic員工感慨：“我大約一年前開始深度依賴Claude，現(xiàn)在已經(jīng)5個月沒親自寫代碼了。”

03

—未來工作形態(tài)：人類角色正在收窄

證據(jù)顯示，人類在AI開發(fā)各環(huán)節(jié)中的角色正在縮小：

代碼質(zhì)量持平后，人類可能徹底停止寫代碼，轉(zhuǎn)向?qū)彶椤５珜彶樗俣热舾簧仙伤俣龋瑢⒊蔀樾缕款i。

實驗執(zhí)行自動化后，瓶頸轉(zhuǎn)向“哪些實驗值得做”。

人類當(dāng)前的比較優(yōu)勢在于研究品位與判斷力：選擇重要問題、判斷結(jié)果可信度、識別死胡同等。

但即使人類僅負(fù)責(zé)“方向設(shè)定”，AI也能讓每個人“駕馭”遠超以往的工作量，從而實現(xiàn)復(fù)合加速。

04

—三種可能的未來

趨勢放緩，但當(dāng)前能力廣泛擴散

指數(shù)曲線可能轉(zhuǎn)為S曲線，規(guī)模收益遞減。新架構(gòu)或供應(yīng)鏈（能源、芯片）成為限制。即使能力凍結(jié)在當(dāng)前水平，世界也會巨變：100人公司可做1000人公司的事，網(wǎng)絡(luò)安全等領(lǐng)域的瓶頸已從“發(fā)現(xiàn)漏洞”轉(zhuǎn)向“快速修復(fù)”。

持續(xù)復(fù)合效率提升

AI開發(fā)高度自動化，人類負(fù)責(zé)方向與判斷。組織生產(chǎn)力大幅躍升，知識工作和政府服務(wù)將被重塑。但同時可能被用于監(jiān)控、操縱等有害用途。瓶頸會轉(zhuǎn)移（Amdahl定律），如何快速識別并解決新瓶頸將成為關(guān)鍵能力。

完全遞歸自我改進

AI自主設(shè)計繼任者，進步速度由算力決定。人類轉(zhuǎn)向監(jiān)督與驗證，“虛擬實驗室”主導(dǎo)研發(fā)。這一能力將快速轉(zhuǎn)移到其他科學(xué)領(lǐng)域。經(jīng)濟和社會形態(tài)可能劇變，但許多現(xiàn)實瓶頸（如臨床試驗、治理節(jié)奏）仍由人類世界決定。

05

—我們該怎么辦？

如果能有效放緩前沿AI開發(fā)，為社會適應(yīng)和對齊研究贏得時間，將是好事。但單方面放緩可能讓最不謹(jǐn)慎的行動者領(lǐng)先。

Anthropic認(rèn)為，建立可驗證的全球協(xié)調(diào)機制至關(guān)重要。我們將開展研究并推動構(gòu)建相關(guān)系統(tǒng)，以便在多國前沿實驗室達成一致時，能可靠驗證各方確實暫停或放緩開發(fā)。

圖源：Anthropic

漢化：MarsKr

未來幾個月，我們將組織政策制定者、研究者、公民社會和AI公司的對話，共同探討遞歸自我改進的含義及協(xié)調(diào)方案。歡迎更多外部聲音參與這場至關(guān)重要的審議。

AI的未來，不僅取決于技術(shù)，更取決于我們今天的選擇。

參考

https://www.anthropic.com/institute/recursive-self-improvement