Anthropic預警長文:AI已開始自優化,應階段性暫停前沿模型研發!

剛剛，Anthropic研究院發布文章稱，AI已大幅加速自身研發，“遞歸自優化”或提前到來。

截至2026年5月，公司超80%入庫代碼由Claude編寫；2026年二季度工程師日均合入代碼是2024年的8倍。員工調研顯示，依托Mythos Preview，研發產出中位數提升約4倍。

“2025年末Claude代碼質量略遜人工，當前二者水準持平，我們預計今年之內AI代碼質量將實現反超。”

由此，論文推演了發展停滯、人類控方向但研發全自動化、AI實現遞歸自優化自主迭代新模型三種可能的未來。

作者最擔憂第三種，對齊風險不確定性極高。

對此，論文提出，可建立跨國核驗機制，在頭部企業同步履約前提下，階段性暫停前沿AI研發，給社會治理與安全研究留出適配時間。

以下為論文全文——

在人工智能大半發展歷程中，人類主導研發全流程的每一個環節。但在Anthropic，我們正把越來越多的AI研發工作交由AI系統自身完成，這大幅提速了我們的項目進度。

順著這個趨勢持續發展、再配上充足算力，最終會誕生一類能夠獨立自主設計、迭代下一代自身模型的AI，該現象被稱作遞歸自優化。

我們目前尚未抵達這一階段，遞歸自優化也并非必然會出現，但它到來的速度或許會超出絕大多數機構的籌備預期。

依托通用行業基準測試與Anthropic內部此前未對外披露的數據，The Anthropic Institute證實：AI已經在反向加速AI模型的迭代研發。

僅舉一例：如今Anthropic工程師單季度交付的代碼總量，達到2021至2025年平均水平的8倍。

本文提及的各項技術趨勢預示，未來數年AI系統的能力還將迎來跨越式提升，其影響意義深遠。能夠自主迭代的AI會成為科技史上的里程碑突破，有望在科研、醫療等諸多領域為全人類創造巨大福祉；但完全實現遞歸自優化，也會抬升人類失去AI管控權的潛在風險。

一旦AI可以獨立研發后繼模型，針對AI的安全防護、運行監控、行為約束體系的重要性都會空前凸顯。

2021–2023：初代Claude研發階段

創立初期的Anthropic和普通科技企業并無兩樣：研發人員依靠筆記本編寫代碼、撰寫文檔。

2023–2025：對話機器人落地應用

研發人員借助早期CHATBOT協助部分研發工序，比如生成簡短代碼片段，再將生成內容復制粘貼至代碼編輯器。

2025–2026：智能編碼AGENT成型

隨著AGENT能力迭代，它們可獨立完成代碼撰寫與修改，部分場景下能完整編輯單個工程文件。

現階段：自主型AGENT

如今的AGENT能夠自主運行代碼，還可將耗時數小時的工作任務委派給其他AGENT協同處理。

未來某一年？：研發閉環成型

未來AGENT或將具備從零搭建、訓練全新模型的能力。倘若成真，后續版本的Claude能夠依靠Claude自身持續迭代優化。

來自行業外部的數據佐證

AI模型性能迭代速度正在不斷加快：模型可穩定獨立完成的任務時長，從原先每7個月翻倍一次，縮短至約每4個月就實現翻倍。

2024年3月，Claude Opus 3可完成人類耗時4分鐘的軟件工程任務；時隔一年，Claude Sonnet 3.7能搞定耗時一個半小時的工作；再過一年，Claude Opus 4.6可承接需要12小時才能做完的項目。

若該增長曲線延續，今年AI就有望勝任熟練工程師需要數天才能落地的任務；2027年，AI或將攻克人類需要數周攻堅的工作。

編碼、科研類基準測試也呈現同款增長規律：基準用于衡量模型在特定領域的性能表現，當模型得分趨近滿分時即判定測試飽和。

SWE-bench是業界通用的真實軟件工程測評：測評會給到模型一份開源工程源碼與真實故障工單，要求模型編寫修復代碼并通過項目原生校驗。

短短兩年時間里，相關模型得分從個位數低位一路走高直至測試飽和。

CORE-Bench用來考核模型復現已有科研成果的能力，這也是AI開展原創研究的前置條件：測評向AI提供已發表論文配套代碼與實驗數據，要求復現全流程并還原論文實驗結論。

2024年AI復現成功率僅20%，十五個月后該基準已被模型做到滿分飽和。運營長周期任務測評的METR機構披露，Claude Mythos Preview可穩定不間斷工作至少16小時，性能已經觸及當前METR現有測試題庫的性能上限。

通用基準測試能夠直觀反映AI能力上限，卻無法量化AI反向加速自身研發的實際效果，想要探明這一點，就需要Anthropic這類AI企業的內部實測數據。

Anthropic內部實測數據

前沿大模型研發主要分為兩大板塊：一是工程落地，包含代碼編寫、基建部署、模型訓練管控；二是科研探索，即敲定實驗方向、解析實驗結果、規劃后續研究思路。

無論是工程還是科研領域，實測結論高度一致：工程側，研發人員只需明確最終目標，Claude就能接手模糊需求、自主敲定落地路徑；科研側，面對參數完備的既定實驗，Claude的執行水準已經比肩甚至超越資深研發人員。但在工程與科研的方向決策、主觀研判環節，Claude和人類頂尖從業者仍存在顯著差距，這也是當前AI距離自主研發下一代模型的核心短板。

Anthropic員工的工作任務會隨資歷晉升不斷升級：新人只負責落地別人定好的需求，例如“導出按鈕異常，請修復”；積累經驗后僅接收目標指令、自主設計實施方案，例如“排查高負載下網絡卡頓誘因”；資深專家則自主篩選研發課題，例如“團隊下個季度的核心研發方向是什么”。依托企業內部數據，我們可以量化Claude在三類任務上的能力成長。

Claude現已承擔Anthropic絕大部分代碼編寫工作：截至2026年5月，企業代碼庫中80%以上的合入代碼由Claude產出。2025年2月Claude Code開啟研究預覽版之前，這一占比僅為低位個位數。

研發人員的產出數據同樣印證變化：2021至2024四年間，工程師日均合入代碼行數基本持平；2025年Claude不再只生成代碼供人工復制粘貼、可直接運行代碼后，人均產出開始抬升；2026年模型實現長時間自主作業后，產出增速再度暴漲。

兩處增長拐點詳見配套柱狀圖。2026年二季度，工程師日均合入代碼量達到2024年的8倍。該數據來源于工程師負責統籌審核、由Claude執筆編碼。

注：代碼行數并非完美的生產效率衡量指標，只統計數量無法體現代碼質量，因此8倍日均代碼產出一定程度高估了真實效率提升，但依然能夠佐證研發提速。Anthropic內部績效考核從不以代碼行數作為評判標準，員工產出激增的核心原因是借助AI完成編碼工作。

代碼產出漲幅和研發人員主觀效率反饋吻合：2026年3月面向全公司130名科研崗員工的調研顯示，在原本就需要落地的同類項目中，受訪者中位數預估，依托Mythos Preview的工作效率是無AI輔助狀態下的4倍。

我們預判實際效率增幅略低于該估值，但調研結論和多維度觀測結果相符：Anthropic大量技術人員依靠AI協助，核心工作落地效率實現數倍提升。

我們還發現，Claude落地了大量原本因人力受限無法推進的工作，例如前沿探索工具開發、積壓已久的工程代碼清理。

2026年4月，Claude一次性提交800余項程序補丁，將某一類API報錯概率降低千倍；對接項目的工程師估算，同等工作量交由人工落地需要整整四年——跨項目排查零散故障耗時繁瑣，人類很難同時熟記海量陌生代碼上下文。

“大約一年前我開始全面改用Claude完成編碼，這段經歷堪稱顛覆性，我已經連續近五個月沒有手動寫過一行代碼了。”
——Anthropic在職員工

Claude產出代碼的質量持續向好，優質代碼包含兩大標準：可正常運行、邏輯規范便于其他工程師閱讀理解與二次迭代。

從可用性維度來看趨勢明確：過去一年里，工程師中途叫停、修正、接管Claude任務的頻次持續走低，即便是需求模糊、沒有標準答案的開放性項目也同樣適用，不同難度任務的通過率變化詳見折線圖。

簡言之，Claude編寫的代碼能夠穩定生效。

圖表說明：任務會話成功率由Claude模型擔任裁判判定，AI全程獨立完成需求、無需人工修正即算作任務成功；研發任務量級浮動會造成成功率短期小幅波動。

2026年5月，在最難的開放式項目中，Claude任務成功率達到76%，半年內漲幅50個百分點。

舉例：一次常規版本升級引發數萬條訓練任務崩潰，工程師僅提供故障描述與集群訪問權限交由Claude排查；AI逐個測試運行實例與環境參數，最終定位一處罕見調試標記導致異常，復現故障并輸出可行補丁，耗時兩小時完成人類需要兩到三天的排查工作。

在代碼可讀性層面，AI與人類的差距仍存，但正在快速收窄。內部員工觀點雖未完全統一，但多數人表示：2025年末Claude代碼質量整體不及人工，到如今二者水準基本持平，預計年內AI代碼質量將全面超越人工。

代碼審核流程也隨之迭代：所有待合入代碼變更都要先經過自動化Claude審核，自動篩查漏洞、安全隱患與各類缺陷。

回溯歷史項目數據發現：若過往全量代碼變更都啟用該自動化審核，claude.ai線上故障中約三分之一的漏洞可以在上線前被提前攔截，而這些代碼的編寫者本身已是全球頂尖AI研發工程師。

“2025年末Anthropic內Claude代碼質量略遜人工，當前二者水準持平，我們預計今年之內AI代碼質量將實現反超。”

在目標既定的實驗優化場景下，Claude表現尤為突出：每次新品發布前我們都會做統一測試，給到Claude一份小型模型訓練代碼，要求在保證結果校驗無誤的前提下最大化程序運行效率，目標與評判標準提前鎖定，AI通過改寫、試運行、反復調參實現提速，整套流程是微型科研閉環。

2025年5月，Claude Opus 4平均實現3倍提速；2026年4月，Claude Mythos Preview提速幅度達到52倍；作為參照，資深人類研究員需要4至8小時才能做到4倍提速。

在目標明確的實驗優化細分科研場景中，Claude用時不到一年，從輔助工具進化至性能超人類。

“現階段研發模式大體是：人類敲定創新思路，模型落地實現、測試、復盤，全流程效率較過去提升一個數量級。”

Claude自主設計科研實驗的能力也在進步。2026年4月Anthropic對外發布首項全流程自主科研落地成果：依托Claude的AGENT團隊承接一項AI安全開放式課題——弱模型能否可靠監管強模型。AI自主完成假說提出、分組對照實驗、跨智能體匯總結論、迭代優化全流程。

該任務存在明確性能上下限：下限為弱監管模型單獨工作的效果，上限是強模型基于標準答案訓練后的表現。

兩名人類研究員耗時一周補齊23%的性能差距；AI集群累計運行800小時、消耗約18000美元算力，補齊97%差距。

客觀局限：該實驗結論無法直接遷移至商用大模型，課題方向、評分細則仍由人類敲定，但在既定框架內，全部實驗方案由AI自主設計，人類僅負責頂層方向把控。

“整項研究我僅在1至2天里提供少量協助就全部落地。倘若新人同事在同等周期拿出該成果，我都會大為驚嘆，未來已來。”

Claude輔助科研糾偏、錨定有效研究方向的能力穩步提升。我們調取2026年1至3月真實協作記錄：研發人員和Claude共同攻堅開放性課題（例如訓練任務異常中斷、模型基準跑分異常）時，時常出現研究思路跑偏、繞彎路后再重回正軌的情況。

我們截取思路跑偏前的全部實驗信息，交給多款Claude模型預判下一步動作，再由看過完整實驗全過程的獨立Claude評判AI與人類的決策優劣。

本次測評篩選129處人類決策存在優化空間的節點，并非AI和人類的全維度對等比拼，但這些無標準答案的真實難題，可以縱向對比模型研判能力變化。

2025年11月的Opus 4.5在同類決策中優于人類的概率為51%；2026年4月Mythos Preview提升至64%。科研日常本就是連續的方向抉擇，該數據印證AI正在逐步掌握科研所需的關鍵判斷力。配套柱狀圖展示全系列模型對比數據。

圖表說明：理想上限線由知曉全流程結果的模型作答生成，代表最優決策。

“現階段人類的核心比較優勢，仍是跳出單點任務、立足全局做頂層思考。”

Anthropic未來研發形態推演

現有數據證明，在AI研發鏈條里人類的工作范疇持續收縮：一旦AI代碼質量追平人工，人類將徹底脫離編碼工作，僅留存審核職能；若AI代碼產出速度持續遠超人工審核效率，人工復核就會成為研發瓶頸。

同理，當Claude能夠自主落地實驗后，人類的工作重心收縮為：篩選值得落地的實驗項目。簡言之，編碼、做實驗、產出數據這類落地性工作的人力成本近乎歸零，僅剩余算力開銷。

當前人類的獨有優勢集中在科研審美與方向研判：篩選有價值的課題、甄別可信實驗數據、及時終止沒有前景的研發路線。

“過去職場協作依托人情互助運轉，一句‘幫忙調試腳本’就能搭建人際聯結，往來間形成協作羈絆；Claude效率極高卻不帶人情，每一次AI代勞，都意味著一次人際協作機會的流失。”

“項目順利時我常會迷茫：我的工作似乎毫無價值，AI做的更快更好；但項目全線崩盤、故障無從溯源時，我又恍然發現自己早已跟不上整套系統邏輯。”

反方質疑與回應

一種常見質疑：人類留存的核心工作——課題方向篩選，才是研發的重中之重；失去人類研判，Claude再強也只是高級助手，無法獨立驅動AI迭代。

客觀來說，現有訓練框架與模型架構能否催生自主選題能力尚無定論，但AI行業突破極少依靠靈光一閃式的顛覆性創新：Transformer架構、混合專家模型這類劃時代創新數年才出現一次。

行業絕大多數進步來自漸進式迭代：擴容算力、發現故障、修復問題、重復試錯，而這套標準化流程恰恰是如今Claude最擅長的領域。

愛迪生所言天才是1%靈感加99%汗水，眼下占絕大多數的重復性落地工作正加速自動化。前沿技術突破的絕大部分環節均可被自動化承接，規模化科研進度本質由算力、工具資源決定，資源體量直接決定實驗并發數量與結果產出速度。

即便假設Claude永遠無法習得科研選題能力，保守研判現有數據依舊指向加速迭代：人類只需要投入少量精力把控頂層方向，剩余海量落地工作交由AI完成，單人可統籌的研發體量將成倍擴張，AI已經實實在在加快了Anthropic的研發節奏。

樂觀研判則基于Claude研判能力的穩步提升：如今尚不成熟的科研審美能力，大概率只是AI又一項從生疏到精通的技能。

AI此前已經完成諸多同類質變：解讀笑點邏輯、心智理論推理、破解語言謎題等曾經被視作人類專屬的能力，都陸續被模型攻克。

三種未來發展可能性

后續走向取決于兩大變量：迭代提速趨勢能否延續、人類對應政策與管控選擇。我們梳理三類前景：

情景一：增長曲線觸頂放緩，現有AI技術全面普及

本文大量數據呈現指數增長，但指數曲線最終往往收斂為S型增長，后續可能出現邊際收益遞減、增速放緩直至停滯。區分普通研究員與頂尖專家的高階研判能力，或許無法依靠算力與數據堆疊實現，想要突破瓶頸需要類似替代Transformer的全新架構革新。

除此之外，算力芯片產能、電網擴容、通信帶寬等供應鏈瓶頸，或是突發能源、算力供給驟縮等外部黑天鵝事件，也會打斷AI增速、抬升實驗室研發成本。

即便模型能力定格在當前水準，全球產業格局也會迎來劇變：Project Glasswing已是前兆，Mythos Preview上線初期就挖掘出全球關鍵系統上萬條高危漏洞，網絡安全的瓶頸從漏洞挖掘轉為漏洞修補。

當下AI落地實體經濟尚在早期，未來百人團隊依托多層級AGENT集群，可承接千人規模企業的全部業務。

綜合各項數據，我們認為該情景發生概率偏低，所有可量化指標（代碼質量、開放式任務通過率等）至今保持穩步上行，尚未出現拐點。該情景能留給各國政府與社會最長的適配窗口期，而余下兩種情景迭代更快、留給全人類的準備時間更少。

情景二：AI研發效率持續復利式提升，人類把控頂層方向

該情景下AI落地工作高度自動化，但人類保留科研選題與成果評審權。全行業借助AI實現效率爆炸，百人企業可完成萬人甚至十萬人規模機構的業務體量，知識性工作、公共服務迎來徹底變革；與此同時技術也存在被濫用風險，例如全域監控、千人級定制化輿論操縱，實現人類團隊無法企及的規模化惡意應用。

類似Anthropic的企業里，人類轉為和AI協同攻關前沿課題，同步搭建AI可信度校驗體系。現有各項數據預示我們正朝這個方向演進，但流程單一環節提速必然催生新瓶頸，這符合計算機領域的阿姆達爾定律，同樣適配企業運營。

Anthropic已經出現典型現象——代碼量產提速后，人工代碼審核成為新卡點；AI高效催生海量新方案、新項目、仿真實驗，遠超團隊人力承接上限。未來，快速識別并疏通瓶頸，或將成為各行各業最核心的競爭力。

情景三：AI完成全鏈路遞歸自優化，自主迭代下一代模型

若性能增長趨勢延續，AI逐步習得人類創造性科研思維，自主設計迭代后繼模型便具備可行性。

該環境下AI迭代速度完全由算力供給、算法優化效率決定，人類從研發主力轉向全域監督、模型驗證，投入資源搭建AI自主運轉的虛擬實驗室。具備自研能力的AI會把技術外溢至全學科，推動各行各業顛覆性革新。

對齊難題的走向是最大未知：一種可能是模型對齊程度、科研判斷力同步達標，自主研發出人類尚未突破的對齊方案；另一種是AI具備自我約束意識，在風險不可控時主動暫停迭代。

最壞的情況是，現有模型的對齊缺陷隨代際迭代不斷放大，故障頻次持續走高、機理無法解析，最終人類徹底失去管控。

依托現有人類主導的經濟體系，我們很難預判全自主遞歸智能普及后的社會與經濟形態，一旦人力失去競爭優勢，全球產業鏈會迎來無法預估的劇變。

即便全自主遞歸研發落地，民生變化也不會立刻顛覆現有生產規則，阿姆達爾定律同樣適用：遞歸智能能快速在細分領域兌現《Machines of Loving Grace》描述的各類利好，機器人技術大概率緊隨遞歸智能同步爆發；超強算力加速新藥臨床試驗、實體工業落地、新型社會組織模式研發。

但AI無法憑空縮短藥物數十年臨床觀測周期、逾越法定選舉流程、瞬間促成人際交往，社會制度、人際關系依舊是現實瓶頸。高速迭代的遞歸AI與人類社會規則碰撞，后續演化路徑無法預判。

人類應當采取的行動

倘若能夠合理放緩前沿AI研發節奏，為全人類留出時間完善配套治理與風險研究，客觀上利好全球安全；但單方面減速極易讓激進研發方彎道超車，最終加劇整體安全隱患。

缺少全球統一協調機制的前提下，各國企業與監管機構只能在地緣博弈與行業競爭中艱難平衡安全紅線。

我們支持全球擁有暫緩前沿大模型研發的選擇權，為社會治理、對齊研究爭取追趕技術的窗口期。

The Anthropic Institute將聯合多方機構落地配套研究，搭建可信停擺管控體系：這套機制能夠跨國核驗頂尖研發機構的真實停工狀態，杜絕部分主體借集體減速之名私下秘密研發、實現技術超車。一旦核驗體系落地，若全球頭部實驗室同步可驗證式停工，Anthropic愿意跟進暫緩前沿研發。

可信的全球性暫緩協議，需要多國多家頭部資源型實驗室達成統一條款，配套跨方可落地的核驗機制。AI算力研發隱蔽性遠超導彈研發，訓練項目極易隱匿、軟硬件通用性極強，私下違約收益極高，使得這套管控的核驗難度遠高于傳統軍備管控。

歷史上《中導條約》等國際管控協議耗費數十年搭建基建與互信，但AI行業沒有這么長的緩沖周期。單一企業單邊停工雖可立刻落地，但僅改變行業龍頭格局，無法促成全行業公共治理磋商。

未來數月，我們將牽頭組織政策制定者、科研人員、公益組織、同業AI企業開展系列研討，聚焦遞歸自優化風險、全球協同管控方案等本文提出的關鍵議題，并對外公示研討成果。當下正是全球跨行業共同商討管控方案的窗口期，AI行業之外的社會各界理應參與其中。