具身大模型公司，終于開始拉開身位

作者：呂鑫燚

出品：具身研習(xí)社

模型的用途不是炫技。

這是具身智能賽道中最隱蔽的一條認(rèn)知線。過去兩年，行業(yè)的熱錢與注意力，幾乎涌向了同一個方向：誰家模型的參數(shù)更多，誰的評測榜單更高，誰的demo視頻在社交媒體上傳播得更廣。

一場接一場的發(fā)布會，一輪接一輪的融資捷報產(chǎn)生的嘈雜之中，一個基本問題反而被淡化了，這些模型，到底能不能被真正用起來？

真正決定具身智能模型能否落地的，從來不是它在某個benchmark上多拿了兩個百分點，也不是它在精心編排的演示里完成了多么驚艷的動作。對于一個需要在真實物理環(huán)境里持續(xù)運轉(zhuǎn)的具身系統(tǒng)來說，模型的重點是易用性。開發(fā)者能不能像調(diào)用一個普通API一樣訓(xùn)練它、部署它、迭代它？工程師是否需要為了一套訓(xùn)練流程重新搭建一整套基礎(chǔ)設(shè)施？從論文里的方法到生產(chǎn)線上的實踐，中間到底隔著多遠(yuǎn)的距離？

這些問題的答案，區(qū)分了一家模型公司是在做技術(shù)供給，還是只做技術(shù)表演。

對模型廠商來說，這就是工程化，工程化的本質(zhì)不是聰明，而是老實，老老實實承認(rèn)理論優(yōu)勢和實際應(yīng)用之間可能存在巨大裂縫，然后用極其枯燥的系統(tǒng)工作把它填上。

自變量DMuon優(yōu)化器的故事，恰好是填補(bǔ)這條裂縫的最新例證。

DMuon優(yōu)化器是模型訓(xùn)練中，決定模型每一步往哪走、走多遠(yuǎn)的組件，它也恰恰是工程化里最吃系統(tǒng)功夫的環(huán)節(jié)之一。這已經(jīng)不是自變量第一次往基礎(chǔ)設(shè)施層面伸手。就在一個多月前，他們發(fā)布了X-Tokenizer動作分詞器，用語義殘差量化重新解決了多模態(tài)推理與連續(xù)動作之間的語義接口問題。從動作表示到訓(xùn)練優(yōu)化，自變量在兩條最關(guān)鍵的底層賽道上都留下了自己的工程印記。

一家具身模型公司，為什么要花力氣去做大模型訓(xùn)練的基礎(chǔ)設(shè)施？

答案藏在反過來想：如果DMuon不存在，每一個想在具身模型訓(xùn)練有突破 的團(tuán)隊，都要獨自面對額外系統(tǒng)開支和時間懲罰，都要重新走一遍自變量已經(jīng)走完的系統(tǒng)優(yōu)化之路。重復(fù)造輪子不是創(chuàng)新的代價，而是產(chǎn)業(yè)不成熟的表現(xiàn)。

在具身智能基建這條賽道上，自變量已是國內(nèi)領(lǐng)跑者，更代表著中國參與全球產(chǎn)業(yè)競爭的核心力量。它走出了一條扎實的進(jìn)階路徑，先用前沿研發(fā)持續(xù)沖高技術(shù)上限，再以體系化的工程能力，將實驗室中的 “演示級” 成果轉(zhuǎn)化為產(chǎn)業(yè)側(cè)的 “可用級” 能力，最終沉淀為支撐全行業(yè)具身智能模型發(fā)展的底層基礎(chǔ)設(shè)施。這件事不是自變量第一次在做，此前其就開源了 WALL-OSS 系列模型，還配套提供訓(xùn)練代碼與技術(shù)文檔。

這條路的信號意義遠(yuǎn)超企業(yè)本身 ，它標(biāo)志著國內(nèi)具身智能企業(yè)的發(fā)展邏輯，正式從 “技術(shù)突破” 轉(zhuǎn)向 “打造基建”。

更重要的是，這是中國具身模型新力量崛起的標(biāo)志性節(jié)點。這一次的領(lǐng)先不再局限于評測榜單的紙面名次，而是以底層研發(fā)與工程落地的雙重硬實力證明。

先給非技術(shù)讀者拆明白這件事的分量，神經(jīng)網(wǎng)絡(luò)優(yōu)化器就是模型訓(xùn)練過程中的“教練”。模型學(xué)習(xí)的過程，本質(zhì)上是一個不斷“試錯-改正”的循環(huán)。比如讓模型識別貓的照片，一開始它亂猜，猜錯了就調(diào)整一下內(nèi)部參數(shù)，下次爭取猜對。

優(yōu)化器就是那個決定“怎么調(diào)整”的角色。

想象你在一個能見度很低的霧天爬山，目標(biāo)是走到山谷最低點（也就是找到最好的答案）。你看不清路，每走一步就要摸一摸周圍的地面，判斷哪里更矮。優(yōu)化器就是那個根據(jù)你的感知，告訴你“向左跨一小步”還是“向右走一大步”的人。

此前行業(yè)通用的方案，是 AdamW 與 Muon 。其中，Muon的收斂速度遠(yuǎn)高于更成熟但有點慢的 AdamW ，因此不少前沿團(tuán)隊已經(jīng)把Muon當(dāng)成了新寵，認(rèn)為它有望取代AdamW成為下一代默認(rèn)優(yōu)化器。

但當(dāng)模型規(guī)模變大、需要多機(jī)多卡分布式訓(xùn)練時，Muon 會出現(xiàn)明顯的效率損耗。大量重復(fù)計算、機(jī)器間額外的通信開銷，就像團(tuán)隊協(xié)作里的 “無效內(nèi)耗”，算力花了，速度卻沒跟上。例如，Muon 能更快找到下山的路，但他有個毛病，需要看到完整的地圖才能指揮，很多人一起找路的時候反而亂套。

細(xì)化到具身模型來看，具身智能模型的訓(xùn)練有一個特點：時序上下文更短，前向傳播和反向傳播在整輪計算中的占比更小，優(yōu)化器開銷更難攤銷，導(dǎo)致Muon在用于分布式計算時，會產(chǎn)生冗余計算和額外通信等系統(tǒng)開銷。所以具身模型公司更迫切需要解決Muon的改進(jìn)問題。

而自變量推出的 DMuon的技術(shù)改進(jìn)可以歸結(jié)為三項，每一項都打在原生Muon的痛點上。

第一項是Owner中心執(zhí)行來解決“冗余計算”和“通信開銷”。DMuon 將每個矩陣參數(shù)分配給唯一的 Owner rank（所有者進(jìn)程），只有它會保存這個矩陣的優(yōu)化器狀態(tài)、執(zhí)行 Newton–Schulz 迭代計算，再將需要更新的參數(shù)分發(fā)給需要的 GPU。實驗數(shù)據(jù)顯示，原生的 Muon 優(yōu)化器的計算時間不隨 GPU 數(shù)下降而下降，而DMuon 能伴隨 GPU 數(shù)線性下，說明冗余計算被消除、GPU 越多收益越大。

第二項是形狀自適應(yīng)執(zhí)行棧。權(quán)重矩陣的形狀在神經(jīng)網(wǎng)絡(luò)里很不一致。有些矩陣很大，能獨自占滿整張GPU的計算單元；有些矩陣很小，好幾塊湊在一起才能喂飽GPU。如果用小矩陣的算法跑大矩陣，浪費算力；用大矩陣的算法跑小矩陣，調(diào)度開銷比計算本身還重。DMuon針對這個問題做了四項優(yōu)化。采用 Gram 空間遞推；利用 Gram 矩陣的對稱的性質(zhì)，將主要乘法的算術(shù)量近乎減半；讓小矩陣批量化“拼車”，把同形狀的小矩陣打包一起計算；

DSL 驅(qū)動的自動調(diào)優(yōu)。簡單來說就是自己去適應(yīng)矩陣形狀，找到最優(yōu)配比。

第三項是計算感知負(fù)載均衡。就是把所有矩陣當(dāng)成任務(wù)，把所有Owner當(dāng)成工人，給出一個讓最慢工人完工時間最短的任務(wù)分配方案。這個分配是基于嚴(yán)格求解出來的。避免了”能者多勞、弱者摸魚”的局面，讓所有GPU的負(fù)載真正均衡。

自變量選擇的測試環(huán)境是A800-SXM4-80GB集群。對比對象是AdamW和原生分布式Muon。實驗結(jié)果顯示，當(dāng)顯卡規(guī)模較小時，Muon能夠節(jié)約一半的優(yōu)化器顯存占用，從而開啟更大的批大小，計算利用率領(lǐng)先AdamW。規(guī)模增大后計算效率基本持平AdamW，但Muon本身提供更快的收斂速度，在自變量預(yù)訓(xùn)練設(shè)置下仍獲得約30%的訓(xùn)練收益。

這意味著DMuon完全可以作為Muon與AdamW的替代方案用于大模型分布式訓(xùn)練。Muon從”理論上很美、生產(chǎn)上很貴”的一個選項，變成了可以默認(rèn)啟用的生產(chǎn)級優(yōu)化器。

上面是一些聽起來很硬的應(yīng)用數(shù)據(jù)，匯總成一句話來說就是，自變量找到了一種極高提速模型訓(xùn)練的方法。

但這并不是這次的重點，重頭戲是DMuon采用了模塊化設(shè)計，提供Drop-In式接入。用戶無需修改現(xiàn)有訓(xùn)練代碼，也無需調(diào)整PyTorch FSDP分布式訓(xùn)練流程。僅需三行代碼即可完成集成。

這就是模型工程化的本質(zhì)，把復(fù)雜留給自己，把簡單留給用戶。你不需要理解Owner rank的分配邏輯，不需要關(guān)心Gram空間遞推的實現(xiàn)細(xì)節(jié)，甚至不需要知道Newton-Schulz迭代是怎么工作的。你只需要把原來的優(yōu)化器替換成DMuon，訓(xùn)練就變快了。

一個值得注意的細(xì)節(jié)是，DMuon選擇開源發(fā)布。這意味著任何團(tuán)隊都可以在自己的訓(xùn)練流水線中嘗試Muon優(yōu)化器，而不必從頭解決分布式適配的難題。

有人修好了高速公路，其他人就會跑得更快。

自變量不是第一家注意到Muon潛力的機(jī)構(gòu)，但它是第一家給出系統(tǒng)級解法的具身模型企業(yè)。在此之前，改進(jìn)Muon的工作幾乎全由大語言模型巨頭完成，DeepSeek、Kimi等企業(yè)在生產(chǎn)訓(xùn)練中不斷探索Muon的規(guī)模化邊界。

所以，真正值得行業(yè)注意的是做這件事的主體，不是專門做 AI 廠商，而是一家聚焦通用具身大模型的創(chuàng)業(yè)公司。

具身賽道發(fā)展至今，絕大多數(shù)玩家的路徑都很一致，基于開源訓(xùn)練框架，針對具身場景做模型微調(diào)與適配。或者自研一個很難走出實驗室的具身基座模型。很少有人會往優(yōu)化器這種 “地基之下的地基” 里深耕，畢竟投入大、見效慢，遠(yuǎn)不如堆數(shù)據(jù)、做 Demo 來得快。

但自變量沒有停留在 “拿來主義” 的舒適圈。

下場改造底層優(yōu)化器，看似只是一步技術(shù)迭代，背后是企業(yè)技術(shù)路線的本質(zhì)區(qū)別，它不是在現(xiàn)有基建上搭房子，而是真的在給整個行業(yè)的訓(xùn)練基礎(chǔ)設(shè)施添磚加瓦。

這不是自變量第一次在技術(shù)底層出手。此前他們發(fā)布的X-Tokenizer動作分詞器，致力于解決”多模態(tài)推理與動作之間的語義接口學(xué)習(xí)”問題。動作分詞器的核心挑戰(zhàn)在于，過去的分詞器只關(guān)注如何拆分動作，卻對“對齊動作和其他模態(tài)語義”這件最根本的事情關(guān)注甚少。X-Tokenizer試圖為這個問題提供一個工程化的答案。

從動作表示到訓(xùn)練優(yōu)化，自變量在兩條最關(guān)鍵的底層賽道上都留下了工程印記。這種姿態(tài)有兩方面的外顯結(jié)果，對內(nèi)，自變量的迭代速度會越來越快，技術(shù)讓它的護(hù)城河逐步推高，對外，一個做具身智能公司，跑去優(yōu)化全行業(yè)的訓(xùn)練基礎(chǔ)設(shè)施，這本身就說明了一件事，具身模型走到了釋放技術(shù)外溢紅利時期，基礎(chǔ)設(shè)施已經(jīng)越來越成熟。

沿著這條脈絡(luò)往下看，能發(fā)現(xiàn)一個貫穿始終的邏輯：降低門檻。

2025年自變量開源的WALL-OSS，不止于把整套方案毫無保留地放了出來，更關(guān)鍵的是把硬件門檻壓到了極低，單張NVIDIA RTX 4090，24GB顯存，就能跑推理和輕量微調(diào)，全量訓(xùn)練也只需要8張4090或同等配置。對學(xué)術(shù)機(jī)構(gòu)和小型團(tuán)隊來說，這意味著不再需要為了一套具身基座模型去申請硬件支持，一張消費級顯卡就能入局。這實際上是在重新劃定這個行業(yè)的參與邊界。

透過自變量的動作來看，具身模型企業(yè)正在從應(yīng)用層向基礎(chǔ)設(shè)施層遷移。他們不再滿足于在別人的工具鏈上拼裝產(chǎn)品，而是開始親手打造行業(yè)公用的技術(shù)底座，加深自己的護(hù)城河，當(dāng)這個行業(yè)的技術(shù)實力版圖需要被重新描畫時，自變量所代表的已經(jīng)不只是某一家創(chuàng)業(yè)公司，而是具身行業(yè)向基礎(chǔ)設(shè)施層延伸出的一個新坐標(biāo)。

而插下這個坐標(biāo)的，來自中國。

結(jié)尾

回到最初的話題，模型技術(shù)的終極價值，是讓更多人能用、好用、用得起。

這一規(guī)律在大語言模型早已被驗證。行業(yè)從早期扎堆刷榜、追逐參數(shù)規(guī)模的競賽，早已轉(zhuǎn)向?qū)τ?xùn)練效率、推理成本、落地性價比的貼身比拼。

當(dāng)大語言模型真正成為滲透生產(chǎn)生活的基礎(chǔ)設(shè)施，昔日的榜單名次與獎項光環(huán)終將快速褪色，最終留在產(chǎn)業(yè)記憶里的，只有那些實實在在重構(gòu)了生產(chǎn)流程、提升了運轉(zhuǎn)效率的玩家。