AI開始給自己寫代碼了！GPT-5.6重寫內(nèi)核，服務(wù)成本直降20%

新智元報(bào)道

這回，AI開始為自己寫代碼了！

GPT-5.6一上線，接到的第一個(gè)大活，就是給自己的運(yùn)行環(huán)境來(lái)了一次大「翻修」。

它自主重寫、優(yōu)化了OpenAI線上那套底層代碼，也就是真正負(fù)責(zé)跑模型的生產(chǎn)GPU內(nèi)核。

7月29日，OpenAI官方甩出一組數(shù)字：

GPT-5.6 Sol參與的內(nèi)核優(yōu)化，讓OpenAI對(duì)外的服務(wù)成本降了20%；推測(cè)解碼的改進(jìn)，讓模型生成token的效率提升超過(guò)15%。

這次GPT-5.6動(dòng)的不是一個(gè)跑在演示環(huán)境里的Demo，而是OpenAI正在線上跑的，每天承載十億級(jí)用戶請(qǐng)求的那套生產(chǎn)系統(tǒng)。

用OpenAI總裁Greg Brockman的話說(shuō)：讓GPT-5.6 Sol去提升生產(chǎn)服務(wù)效率，正是它又強(qiáng)又便宜的原因之一。

而OpenAI內(nèi)部，早已形成一套完整的打法，Codex掌門人Tibo（Thibault Sottiaux）把它概括成兩步：

第一步，訓(xùn)出一個(gè)足夠強(qiáng)的模型；

第二步，用這個(gè)模型去把一切變得更好，包括運(yùn)行它自己的基礎(chǔ)設(shè)施、推理?xiàng)：蛢?nèi)核。

20%是怎么省出來(lái)的？

這20%的服務(wù)成本，到底是怎么省出來(lái)的？

GPT-5.6 Sol通過(guò)Codex，接進(jìn)了OpenAI的生產(chǎn)推理?xiàng)?，碰的全是推理?xiàng)＠镒詈诵牡膸讐K：GPU內(nèi)核、負(fù)載均衡、推測(cè)解碼、KV緩存。

GPT-5.6在智能體框架、API編排、模型推理三層做優(yōu)化，換來(lái)更少網(wǎng)絡(luò)傳輸、更少CPU開銷、更多GPU產(chǎn)出。

負(fù)載均衡，翻譯成人話就是別讓某幾張卡忙到冒煙，而另外幾張卡卻只是閑著；

KV緩存，是把算過(guò)的中間結(jié)果存下來(lái)重復(fù)用，不做無(wú)用功；

推測(cè)解碼，是讓一個(gè)小模型先搶答、大模型只負(fù)責(zé)驗(yàn)收。答對(duì)了，一次就能多輸出好幾個(gè)字，不用像平常那樣一個(gè)字一個(gè)字慢慢擠。

然后再看GPT-5.6 Sol干了什么。

它分析真實(shí)的生產(chǎn)流量，揪出以前被忽略的負(fù)載不均，測(cè)試新的路由策略；

它自主重寫了用Triton和Gluon這兩種GPU編程語(yǔ)言寫成的生產(chǎn)內(nèi)核，專門去找那些能預(yù)先算好、能跳過(guò)、能并行的活兒；

在推測(cè)解碼環(huán)節(jié)，它針對(duì)配套的draft模型，設(shè)計(jì)并跑了數(shù)百次架構(gòu)實(shí)驗(yàn)，還自己?jiǎn)?dòng)、盯著訓(xùn)練流程，遇到硬件故障和訓(xùn)練不穩(wěn)定，自己主動(dòng)介入。

這些環(huán)節(jié)一個(gè)個(gè)摳下來(lái)，最后就換來(lái)了開頭那兩個(gè)數(shù)字：服務(wù)成本降20%，token生成效率漲15%+。

其實(shí)早在7月9日GPT-5.6發(fā)布時(shí)，OpenAI就已透露端倪。

內(nèi)部研究員已經(jīng)在用它排查故障、優(yōu)化訓(xùn)練系統(tǒng)、跑實(shí)驗(yàn)、解釋結(jié)果，還專門給它設(shè)了KernelGen、NanoGPT、RSI Index這幾項(xiàng)「自我改進(jìn)」評(píng)測(cè)。

這次降本20%，意味著這些布局，第一次變成賬單上實(shí)打?qū)嵉臄?shù)字。

比節(jié)省20%更重要的

是一個(gè)閉環(huán)

真正重要的變化，是一個(gè)閉環(huán)跑通了。

分析流量、提出優(yōu)化、寫出代碼、跑完實(shí)驗(yàn)、處理掉故障，再拿生產(chǎn)指標(biāo)回來(lái)驗(yàn)證結(jié)果，現(xiàn)在這條回路的每一環(huán)，模型幾乎都能參與。

一次任務(wù)里，模型不斷「決策→調(diào)用工具→讀取結(jié)果→再?zèng)Q策」，循環(huán)往復(fù)直到交付。

拿推測(cè)解碼舉例。

這個(gè)技術(shù)要配一個(gè)更小的draft模型，GPT-5.6 Sol針對(duì)這個(gè)draft模型，設(shè)計(jì)并跑了數(shù)百次架構(gòu)實(shí)驗(yàn)，改尺寸、改結(jié)構(gòu)、改特性。

數(shù)百次實(shí)驗(yàn)，過(guò)去這要靠一個(gè)稀缺的GPU工程師，憑著經(jīng)驗(yàn)和直覺，一個(gè)配置一個(gè)配置地手工試，試上幾個(gè)月。

配置空間太大，大到人根本試不完，只能靠粗糙的經(jīng)驗(yàn)法則拍腦袋。

現(xiàn)在，模型能把這個(gè)「測(cè)量、優(yōu)化、驗(yàn)證」的循環(huán)壓到極短。于是，團(tuán)隊(duì)能探索更多想法，更快跟上不斷變化的負(fù)載。

更關(guān)鍵的是，這個(gè)閉環(huán)，還會(huì)自己滾起來(lái)。

模型越強(qiáng)，越能把推理?xiàng)?yōu)化得越??；越省，同樣的硬件就能服務(wù)越多請(qǐng)求；服務(wù)的人越多，OpenAI就能把更強(qiáng)的模型鋪給更多的人用。

OpenAI的內(nèi)部數(shù)據(jù)能佐證這個(gè)環(huán)轉(zhuǎn)得有多快：

GPT-5.6內(nèi)測(cè)階段，每位活躍研究員的日均token輸出，是GPT-5.5時(shí)代最高值的兩倍以上；過(guò)去半年，用于內(nèi)部代碼推理的研究算力占比漲了100倍，內(nèi)部智能體token用量漲了約22倍。

省下的每一分算力，最后都變成了讓更多人能用上的智能。

AI開始自進(jìn)化了嗎？

那么，這到底算不算「AI開始自我進(jìn)化」？

至少現(xiàn)在，還不算。

GPT-5.6 Sol優(yōu)化的，是運(yùn)行自己的軟件、服務(wù)配置，還有輔助的draft模型。

沒(méi)有證據(jù)表明它在線改動(dòng)了自己的主體權(quán)重，也沒(méi)有證據(jù)表明它能脫離工程團(tuán)隊(duì)，自己升級(jí)出下一代模型。

如果把權(quán)重比作模型智能的「貨物」，內(nèi)核和配置就是運(yùn)貨的卡車和路線。它這次優(yōu)化的是運(yùn)輸，還沒(méi)碰到貨物。

因此，更準(zhǔn)確地說(shuō)這是「自優(yōu)化飛輪」的早期形態(tài)，不是遞歸自我改進(jìn)。

還有一點(diǎn)要注意。

官方這次用了「自主（autonomously）」來(lái)形容內(nèi)核重寫和部分實(shí)驗(yàn)，但不等于「完全無(wú)人參與」，目標(biāo)由誰(shuí)定、接進(jìn)哪套生產(chǎn)系統(tǒng)、拿什么工具驗(yàn)證、怎么部署上線，這些環(huán)節(jié)都還牢牢攥在OpenAI的工程體系手里。

比如驗(yàn)證環(huán)節(jié)：模型寫完的生產(chǎn)內(nèi)核，要經(jīng)過(guò)審核才能上線。

OpenAI專門搬出一個(gè)叫FpSan（浮點(diǎn)消毒器）的開源工具，檢查這些內(nèi)核的結(jié)構(gòu)和數(shù)據(jù)流對(duì)不對(duì)。

自動(dòng)驗(yàn)證體系跟不跟得上，才是「敢讓AI寫底層代碼」的真正瓶頸。

往前看，OpenAI也一直在為RSI（Recursive Self-Improvement，遞歸式自我改進(jìn)）鋪路。

早在2月，GPT-5.3-Codex就被官方形容為「參與了自己的創(chuàng)造」；這一次，GPT-5.6 Sol又自主后訓(xùn)練了更小的Luna；在內(nèi)部專門衡量自我改進(jìn)能力的RSI Index上，它比GPT-5.5高出16.2分。

OpenAI內(nèi)部RSI Index成本-得分曲線：GPT-5.6三檔全面壓過(guò)5.5、5.4，同等得分更省錢。

老對(duì)手Anthropic的一個(gè)判斷更激進(jìn)：

人類如今只對(duì)個(gè)位數(shù)百分比的方向性決策負(fù)責(zé)。

其聯(lián)創(chuàng)Jack Clark更是稱2028年底前出現(xiàn)完整的遞歸自我改進(jìn)，概率超過(guò)60%。

飛輪是轉(zhuǎn)起來(lái)了，但真正的「AI自己造AI自己」還在路上。

競(jìng)爭(zhēng)軸變了：

從誰(shuí)GPU多到誰(shuí)榨出更多token

這20%，意味著同樣一批卡，OpenAI現(xiàn)在能多接兩成的活。

它指向一個(gè)更大的變化。

過(guò)去幾年，AI公司比的是誰(shuí)買得起更多GPU。這套邏輯簡(jiǎn)單粗暴，也砸錢如流水。

但在一個(gè)算力永遠(yuǎn)不夠、需求漲得比產(chǎn)能快的世界里，另一個(gè)關(guān)鍵變量已經(jīng)浮出水面：同樣一批卡，誰(shuí)能榨出更多token？

推理效率，正在變成和芯片數(shù)量同樣重要的籌碼。

OpenAI自己已經(jīng)用產(chǎn)品線投了票。

GPT-5.6這次一口氣分成Sol、Terra、Luna三檔，就是要主打一個(gè)賣點(diǎn)：同等智力，更少token。

效率，被擺到了和智能同樣重要的位置。

而這一次，幫OpenAI的模型提升推理效率的，正是模型自己。

模型越強(qiáng)，越能優(yōu)化推理?xiàng)?；推理?xiàng)Ｔ礁咝В瑯佑布湍芊?wù)更多token；成本一降，更強(qiáng)的模型又能鋪給更多人用。

這個(gè)飛輪，OpenAI已經(jīng)讓它轉(zhuǎn)起來(lái)了。

參考資料：

https://x.com/OpenAI/status/2082577277246972300

https://openai.com/index/gpt-5-6-frontier-intelligence-efficiency/

https://openai.com/index/gpt-5-6/

https://x.com/gdb/status/2082579736065372189

編輯：元宇