6月中旬,一筆600億美元的收購給AI應用行業帶來了重創和不安,之后,VC不再投AI應用的悲觀論調開始發酵。
沒錯,這筆收購就是馬斯克買下AI應用頂流Cursor,往小了說,這是一個讓四個00后財富自由的故事,往大了說,這再次證明了AI應用的終局是大廠和基模的游戲。
在這,我們不評價,也不預測,只想直面一個本質的問題,對于Cursor來講,這筆交易為何會發生?除了交易金額外,市面上比較一致的看法是沒有基座模型能力的AI Coding優勢不可持續,而自研成本又過高,找棵大樹依靠是一個高性價比的選擇。
另一個事實是AI Coding領域99%的廠商還死卷在L2代碼補全(Copilot)的紅海里打價格戰,做不出真正端到端的代際突破。
那么AI Coding這個被看做最火熱的賽道終局將走向何處?一家成立兩年的公司AIGCode正在給出一個獨特的全棧解法。
選那條閉環最短的路但“非共識聲音是不被聽進去的”
AIGCode的創始團隊是一群來自全球頂尖高校和大廠一線的技術極客。
在創業之前,一直在技術一線的CTO陳秋武發現了一個根本性的問題:很多智能不足的根源不在微調,而在基座大模型本身。“我們發現很多問題其實來自于基座大模型,而不是微調的能力。”
這個判斷決定了公司的軌跡。
緊接著,陳秋武就盤點了團隊的技術儲備:算法能力強、基建功底深厚、架構設計經驗豐富。團隊在過往的技術實戰屢次突破工程與算法的極限,早在2012年,便通過實時個性化推薦技術,將騰訊微博廣告的點擊率提升了三倍,隨后在微信位置服務項目中,僅憑16臺服務器便成功扛住了10億級別的線上流量。陳秋武在微軟任職期間,不僅在實時突發事件監測、實時聚類與實時排序三大算法上取得關鍵突破,將其成功應用于美國大選的社媒實時追蹤,還針對法學院入學考試(LSAT)問答場景,完成了復雜的子句因果邏輯建模,并將系統的端到端延遲大幅降低了99.99%。這三個優勢疊加,指向了一個結論,這個團隊適合做基礎大模型研發。
但做什么樣的大模型?彼時,國內“六小虎”正風頭正勁,投資人們追捧的是OpenAI路線的中國復刻者,可即便如此,陳秋武和團隊還是決定不湊熱鬧,反而選擇了一條逆主流的路——不做通用,聚焦Coding。
選擇coding的邏輯只有四個字,閉環最短。陳秋武此前在垂直大模型的落地過程中體會到,如果跟行業專家團隊合作,閉環太長,而Coding領域團隊本身就是技術極客,“我自己做出來的東西,我自己能識別出這個智能程度夠不夠。”
更關鍵的是,他對AI編程的終局有自己的判斷。
當前市場上的產品,無論是GitHub Copilot、Cursor還是Claude Code、Codex,本質上都處于L2級別,即“輔助駕駛”,需要懂代碼的人在一旁盯著,反復提示、修正,模型才能產出實際可用的結果。AIGCode想做的是“自動駕駛”級別的L3:用戶提出自然語言的需求,端到端完成生產級前端、后端、數據庫的完整閉環。
于是,AIGCode的產品AutoCoder.cc是國內極少數能端到端生成前端、后端和數據庫,并提供測試和運維部署能力的AI編程產品。陳秋武認為,這不僅僅是商業產品,更是整個技術閉環的關鍵一環。
他的邏輯鏈條是:當前所有大模型的訓練數據只能提供L2級別的樣本,因為L3級別的應用還沒有出現。沒有L3的數據,模型就無法從L2躍升到L3。因此,AutoCoder.cc的真正價值是為基座模型生產L3訓練數據。“通過L3應用的搭建來形成L3的樣本,通過L3樣本的訓練讓模型達到L3級別。這是我們的核心閉環。”
他的賬本是:“70%-80%投入流進算力的口袋,這種模式是不正確的畸形,至少搜廣推完全不是這樣。大部分收益壁壘來自算法而非算力。另一筆是L2大模型需求從提出到完成任務,需要多輪矯正,百萬token彈指湮滅,而L3大模型則完成任務只需千-萬級token。當訓練迭代成本在千萬級別時,算力就該讓位于算法退居二線。”
畢竟,這是大模型時代,而不是顯卡時代。
他用復雜度量化了當前的行業現狀,比如電商網站的復雜度約為4,操作系統約為6,《黑神話:悟空》約為10。再到產品側,國外競品模型生成的復雜度大約在2左右,只能做多個單頁面。對于生成一個多角色、長邏輯鏈路的任務,都是做不到的。
對此,陳秋武用了一個意味深長的比喻。“iPhone沒出來之前,大家認為諾基亞已經非常好了。但事實上iPhone面世后,人們才真的知道有智能機這回事。”
他認為當前的大模型行業就處在“諾基亞時代”,距離真正的智能(L3/L4級別)還有本質差距。而這個差距,恰恰是創業公司的窗口。
所以,AIGCode團隊正在做的事情,歸根結底就是一句話:在國產算力上,通過底層研究創新提升預訓練效率,通過端到端產品產生L3數據,用L3數據訓練下一代模型,形成一個完整的正向循環。
他們內部也稱之為“3No 范式"(No Nvidia, No L2, No Blind Scaling),即不依賴英偉達單一路線、跨越 L2 輔助、拒絕盲目堆量,直接用無需人監督任務完成度高的 L3 交互數據去訓練下一代端到端 L3 級大模型,這也將導向全新的agent應用范式。
這個方向在2023年10月就確定了,但當時國內外大量投資人的共識是跟著OpenAI走,“非共識的聲音(他們)是聽不進去的。”
從國產替代出發把國產頭部算力的
MoE MFU(混合多專家算力利用率)做到65%
再說回國產算力上,AIGCode是純血國產模型和應用,也就是最近比較火的“零英偉達”模型。
但國產替代從來不是一條容易的路,我們前幾天曾在寒武紀市值破萬億時寫到這是最樸素的現實主義,AIGCode的故事同樣如此,因為沒得選,所以只能走好腳下的路。
2024年3月,成立不久的AIGCode在算力緊張的困境下,登上了某國產算力的訓練集群,開始了在國產芯片上的大模型預訓練。
這是一條幾乎沒有創業公司愿意走的路——自研基座模型,同時深度優化國產算力生態,還要做端到端的AI編程產品。
“一開始確實是因為算力緊缺。”AIGCode CTO陳秋武坦率地承認。但兩年后,這支小而精的團隊在國產算力集群上實現了MoE架構65%的算力利用率(MFU),這個數字超過了字節Seed在2025年10月公布的MoE效率紀錄,這也意味著,一張國產卡,被他們當成了兩張用。
團隊把預訓練中閑置的CPU資源,吞吐量優化到300倍,矩陣乘計算性優化到100倍,承接顯卡冷門長尾專家的計算,把HBM利用率與全局/微批次提高雙倍。整體訓練提效35%,而在增強后訓練,通過CPU TB級內存雙副本指針切換,免去采樣→訓練→推理多線頻繁上下文切換性能理論上限提效數十倍。
更重要的是,他們試圖證明一件國內大模型行業幾乎無人相信的事,只做應用層不夠,只做模型層也不夠,必須從底層基礎研究、預訓練效率到產品端完成真實長程任務,垂直打通整條鏈路,才能觸達下一代大模型的門檻。
真正讓團隊與國產算力深度綁定的,是2025年底國產頭部算力的負責團隊的一次深度交流,雙方團隊達成了合作方向:把該算力體系下MoE的MFU提升上去。
“我們一開始設定的目標是50%。”
結果遠超預期。2026年2月底,36.3%;3月底,50%;4月14日,65%。
這背靠的是極致的底層技術突圍。在大模型時代,算法、工程、產品與商業化高度交織,常規的割裂分工模式已然失效。我們的核心成員必須是兼具“算法+工程”能力的復合型人才,深度精通大模型算法及訓練推理框架底層、高性能優化會用C語言甚至匯編、超節點統一內存池管理、超節點架構及分布式異步通信優化等深水區技術,這是很多團隊技術很難觸達的范圍。
外界常將團隊的戰斗力簡單歸結于AI Native,但這只是冰山一角,大模型賽道創業成功的核心在于領導者是否“懂技術、貼一線”。面對大模型的復雜鏈路,傳統“脫產純管理”的模式已無法勝任,大廠還要解決部門墻的天塹,只有深入技術細節、直接主導技術決策的掌舵人,才能真正帶兵打硬仗。
不可否認,國外硬件生態早已達到“好用”的標準,而頭部的國產算力目前仍處于從“可用”向“好用”過渡的階段。但只要自身技術底子夠硬,AIGCode的團隊通過極致的軟件優化,去抹平這道硬件上的鴻溝。
陳秋武把這種角色定位為國產算力生態的“Windows”,他進一步解釋,正如Intel的CPU需要Windows才能被普通用戶使用,國產算力硬件也需要他們這一層的軟件積累才能真正好用。
18個月磨一劍:被忽視的基礎研究
如果說算力適配是“體力活”,那么基礎研究就是AIGCode最核心的“腦力”投入。
梁文鋒說過,你一定要在技術領域做出一些突破才有可能。在陳秋武看來,大模型還屬于少年期,很多技術機制還不完善。在這種情況下,堆人力、堆資金、堆錢都沒有太大用處。
在這種觀念和信仰的驅使下,AIGCode團隊花了18個月研發出了TPE(樹形位置編碼),徹底取代了業界通用的RoPE方案。
陳秋武給出了一組讓業內驚艷的數據:
外推能力是RoPE的8倍;在8倍以上外推時,搜索性能仍保持近90%;而RoPE在4倍以上性能就急劇下降,8倍以上“搜索性能接近于零”。
技術原理上,RoPE是線性算法(加法),TPE是乘法結構,四層各1K的乘法可達TB級別的無損位置表達。“1Kx1Kx1Kx1K,四次相乘就是1T級別。而RoPE本質上是高頻外推、低頻內插,大模型是概率模型,分布變形會影響效果。”
更讓他驚奇的一個發現是:只要跟RoPE反著來,你會發現有比較大的收益。我們取消了RoPE之后,竟然帶來了額外的收益。
當然,TPE的突破只是一個開始,基于TPE,團隊進一步做出了TPA—業界首個無損線性注意力機制。
陳秋武解釋,目前流行的KDA、DSA等方案本質上是有損的,具體做法是通過丟棄或降權他們認為不重要的遠距離token來實現線性復雜度,但其實(這些token)并不是不重要,只是RoPE的位置編碼導致越遠的token貢獻越低丟棄影響不大而已。
而TPA通過乘法方式實現完全無損的線性注意力,訓練成本、顯存占用與原版對齊,性能卻是RoPE的8倍。Loss收益方面,TPA達到0.113,而近期引起關注的Muon優化器相比AdamW在實驗條件下的loss收益不到0.02。
有了這兩個前提,陳秋武和團隊還提出了兩階段規律學習,這是他們琢磨最多的創新之一。
陳秋武將預訓練過程類比為登山,常規訓練每次都從山腳爬到山頂,而兩階段學習則是在山腰和山頂之間建了一部“纜車”。
展開來講,模型在預訓練中學的是token拼裝成的embedding,為了在任意上下文中預測準next token,它要把知識點梳理成更高壓縮比的神經元表達方式。這就是涌現能力的來源,但涌現能力不是必然發生的。
目前大模型的有效上下文邊界是預訓練全注意力的4K乘以RoPE的8倍外推,即32K。在此范圍內,模型具備上下文學習、推理、歸納的能力;超出這個范圍,能力大幅衰減。兩階段學習的目標是,把浪費在重復擬合常見分布上的神經元節約出來,集中到涌現能力的學習上。
除此之外,AIGCode還提出了專家解耦架構(PLE),一個對當前主流MoE架構的根本性改造。傳統MoE的門控網絡用softmax概率選擇專家,AIGCode的做法是用注意力機制中的QK矩陣,來選專家,讓每個專家擁有明確語義感知的“知識領地”。
陳秋武用倉庫管理做類比,原來是在桌子上等分畫了16個區域,至于區域里放什么完全靠概率。現在我們把左上角定義為小件生活用品區,右下角定義為大件柜子區,這就是有意義的。
這項研究源于2024年3月基于國產算力集群的預訓練,該成果LokiFormer已被ICML 2026錄用,“兩年前的結果,到現在還能拿到最新的學術認可。”陳秋武對此感到滿意。
學術之外,在商業化上,AIGCode也迎來了進展,“原來他們需要采購二三十個SaaS組件,現在用我們的AutoCoder.cc,15-20分鐘就能有一個完整的前端、后端和APP。”
一個有趣的現象是,AutoCoder.cc目前60%的付費用戶來自,一個純國產國產AI應用面向的主要是海外中小企業主,這本身就是一場突圍。也證明了依靠純國產算力,扎根底層技術創新,是完全能夠走出一條新路的。
當前,這條路也成為了越來越多公司的共識。
日前,美團LongCat-2.0正式發布,這是業界首個在五萬卡國產算力集群上完成訓練與推理全流程的萬億參數大模型,也是首個從訓練到推理,全程由國產算力獨立完成的萬億規模全流程跑通。更早之前,DeepSeek V4也完成了從英偉達CUDA生態到華為昇騰等國產平臺的遷移與適配。
這讓我想到,在交流過程中,陳秋武從宏觀視角給出的判斷:中國的增速曲線高于美國,國產算力生態的加速度高于英偉達。英偉達雖然是半壟斷地位,但成本太高,存量消耗完了,增量就小于國產算力生態的增量,中國人再把性價比打上去這件事,比海外強很多。
如今,國產算力生態正在成為主流,屬于AIGCode的故事也將告別非共識,走到舞臺中間,被認可和看見,并在這場被認為只有大廠才有資格入場的游戲中,走得更好更遠。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.