- 克雷西 發(fā)自 上海
量子位 | 公眾號(hào) QbitAI
今年WAIC的SAIL之星,依然頒給了超節(jié)點(diǎn),依然頒給了中興通訊。
中興通訊這次在WAIC上,拿出了自己的版本,叫OEX超節(jié)點(diǎn)。
基于OEX加dOCS架構(gòu)的國(guó)產(chǎn)高性能Matrix超節(jié)點(diǎn)方案,同期拿下了本屆大會(huì)的SAIL獎(jiǎng),這是中興通訊連續(xù)第二年拿到這個(gè)獎(jiǎng)項(xiàng)。
超節(jié)點(diǎn)這條路,英偉達(dá)用GB200 NVL72蹚出來之后,已經(jīng)成了大廠們?cè)褯_的方向。
這條路被英偉達(dá)驗(yàn)證之后,中國(guó)已經(jīng)開始把它基建化、工程化了。
同一個(gè)展臺(tái)上,還擺著一部手機(jī)。
AI智能體手機(jī)努比亞NaviX Ultra,由中興通訊努比亞全鏈路主導(dǎo)打造,也在這次大會(huì)上第一次公開亮相。
一個(gè)是機(jī)房貨架里的互聯(lián)架構(gòu),一個(gè)是揣在兜里的手機(jī),中間隔著的東西不少。
中興通訊把它們放進(jìn)了同一個(gè)展臺(tái),AI基礎(chǔ)設(shè)施、AI應(yīng)用、AI智慧家庭、AI智能體手機(jī),四個(gè)展區(qū)挨在一起。
機(jī)架里的超節(jié)點(diǎn)、機(jī)房里的供電系統(tǒng)、手里的這部手機(jī),說的其實(shí)是同一件事——
怎么把算力從生產(chǎn)出來,一路送到用戶能摸到的地方。
AI全鏈路,盡在一個(gè)展區(qū)
中興通訊這次在WAIC上搭了四個(gè)展區(qū),分別叫AI基礎(chǔ)設(shè)施、AI應(yīng)用、AI智慧家庭、AI智能體手機(jī)。
AI基礎(chǔ)設(shè)施展區(qū)里,OEX超節(jié)點(diǎn)是重點(diǎn)。
同一展區(qū)里,還有中興通訊的AIDC算電協(xié)同方案和算力網(wǎng)絡(luò)架構(gòu)。
這兩套方案,負(fù)責(zé)把算力從機(jī)架里穩(wěn)定地送出去。
AI應(yīng)用展區(qū)里,中興通訊展示了「新支點(diǎn)AIOS」,這套系統(tǒng)覆蓋行業(yè)場(chǎng)景、家端產(chǎn)品、個(gè)人終端產(chǎn)品三大方向。
它的定位是端-邊-云協(xié)同的智能生態(tài)體系,借此,中興通訊想要讓AI從單點(diǎn)能力走向系統(tǒng)能力。
![]()
同一展區(qū)里還展出了企業(yè)級(jí)智能體平臺(tái)Co-Claw。
在中興通訊內(nèi)部,它被用來打造「AI驅(qū)動(dòng)型組織」,聚焦辦公、研發(fā)、運(yùn)營(yíng);對(duì)外,其具有的AI能力可以復(fù)制給工業(yè)、軌交、礦山、冶金、電力這些垂直行業(yè)。
![]()
同時(shí),中興通訊也展示了其AI健康醫(yī)療方案,并擺出了幾個(gè)具體數(shù)字——體檢報(bào)告生成效率提升10倍以上,一份HTA(衛(wèi)生技術(shù)評(píng)估)報(bào)告能在1到5分鐘內(nèi)產(chǎn)出,心血管輔診在萬例臨床驗(yàn)證里準(zhǔn)確率達(dá)到96%。
這個(gè)展區(qū)里還有三款人形機(jī)器人組成的具身智能矩陣。
體重30公斤級(jí)的輕量仿生機(jī)器人——中興星仔,負(fù)責(zé)商業(yè)服務(wù)場(chǎng)景;負(fù)載30公斤以上的雙足重載機(jī)器人中興星擎、輪式重載機(jī)器人中興星旺,瞄準(zhǔn)的是則是工業(yè)制造場(chǎng)景。
![]()
它們身上裝的自研星巧系列靈巧手,作業(yè)精度能到0.2毫米以內(nèi),負(fù)載15公斤以上,控制器用的是星核車規(guī)級(jí)主芯片。
AI智慧家庭展區(qū),展示的是家庭終端產(chǎn)品矩陣,這個(gè)矩陣已經(jīng)連續(xù)五年拿下全球市場(chǎng)份額第一,年發(fā)貨量超過1億臺(tái),AI中屏產(chǎn)品累計(jì)發(fā)貨也超過了300萬臺(tái)。
![]()
AI智能體手機(jī)展區(qū)里,站著這次大會(huì)的重頭戲之一——全球首款A(yù)I智能體手機(jī)努比亞NaviX Ultra。
這款量產(chǎn)旗艦產(chǎn)品由中興通訊努比亞全鏈路主導(dǎo)打造,核心賣點(diǎn)是「一句話,就能讓AI跨應(yīng)用復(fù)雜任務(wù)」,用中興通訊自己的話說,叫「一句話,努比亞都包了」。
![]()
就在今天,中興通訊還舉辦了一場(chǎng)「全棧智算生態(tài)論壇」,論壇上,AI基礎(chǔ)設(shè)施展區(qū)里展出的「中興OEX超節(jié)點(diǎn)」正式發(fā)布。
一組超節(jié)點(diǎn),就是一個(gè)AI工廠
中興通訊是業(yè)界第一個(gè)提出正交架構(gòu)超節(jié)點(diǎn)設(shè)計(jì)理念的公司。
他們這次拿出來的產(chǎn)品,叫OEX正交架構(gòu)超節(jié)點(diǎn)。
這個(gè)超節(jié)點(diǎn)單柜能塞進(jìn)128個(gè)GPU,集成度在業(yè)內(nèi)排第一,往上還能Scale up擴(kuò)展到1.6萬卡規(guī)模。
![]()
能做到這個(gè)規(guī)模,靠的是架構(gòu)層面的一處硬創(chuàng)新。
傳統(tǒng)機(jī)柜內(nèi)動(dòng)輒幾千根線纜,通信損耗大,維護(hù)也麻煩。
OEX的解法,是把計(jì)算托盤和交換托盤垂直交叉連接,這也是「正交」兩個(gè)字的來歷。
整套設(shè)計(jì)因此做到了0線纜、無背板,機(jī)內(nèi)GPU之間的信號(hào)路徑變短,信號(hào)損耗更低,時(shí)延也更低,互聯(lián)成本大幅下降。
線纜和背板解決的是硬件本身的問題,芯片之間怎么協(xié)同又是另一回事。
中興通訊的協(xié)同思路,是依托CPU、機(jī)內(nèi)機(jī)間互聯(lián)、網(wǎng)卡、DPU這五類芯片的協(xié)同感知技術(shù),跟主流GPU廠商深度合作,按需精準(zhǔn)匹配最優(yōu)方案。
![]()
于是,OEX超節(jié)點(diǎn)里的組件便可以相互解耦,按需靈活更換、擇優(yōu)組合,避免了被某一家芯片廠商鎖死。
另外,中興通訊還自研了機(jī)內(nèi)互聯(lián)交換芯片,同時(shí)兼容工信部主導(dǎo)的CLink協(xié)議和博通的SUE協(xié)議,相當(dāng)于給不同陣營(yíng)的GPU都留了一扇門。
架構(gòu)和協(xié)同打通之后,還有落地速度和運(yùn)維效率這兩個(gè)問題。
為此,中興通訊采用了前置式開發(fā)模式,也就是在GPU芯片發(fā)布之前,就聯(lián)合芯片廠商做仿真、做架構(gòu)預(yù)適配、做算法的前置優(yōu)化。
等芯片真正量產(chǎn)出來,配套的整機(jī)方案已經(jīng)提前跑通。
除此之外,中興通訊還統(tǒng)一定義了機(jī)柜形態(tài)、接口規(guī)范、互聯(lián)協(xié)議,形成了一套可以復(fù)制的工程范式,產(chǎn)品落地周期因此從1年以上壓縮到半年以內(nèi)。
圍繞這套范式,中興通訊給GPU廠商提供了即插即用的「算力集裝箱」,廠商把芯片裝進(jìn)去就能用,不用再自己從頭設(shè)計(jì)機(jī)柜和互聯(lián)。
模塊化設(shè)計(jì)還帶來了另一個(gè)好處——機(jī)柜的安裝時(shí)間從原來的天級(jí),壓縮到了分鐘級(jí)。
規(guī)模上,這套架構(gòu)沒有停在單機(jī)柜。
造單機(jī)柜的基礎(chǔ)上,中興通訊用電交換+光互聯(lián)的方式做靈活擴(kuò)展,構(gòu)建出規(guī)模最高可達(dá)16384個(gè)GPU的集群超節(jié)點(diǎn)。
這一整套打法,不是中興通訊關(guān)起門來自己做的。
中興通訊聯(lián)合了曦智科技、壁仞科技、沐曦股份、燧原科技、天數(shù)智芯等芯片廠商,在OEX的基礎(chǔ)上疊加了dOCS(分布式光交換)架構(gòu)。
這種架構(gòu),能根據(jù)算力任務(wù)動(dòng)態(tài)調(diào)整節(jié)點(diǎn)之間的連接拓?fù)洌挥霉潭ㄋ酪惶拙€路。
它幫助中興和這些廠商實(shí)現(xiàn)了更好兼容,從而擴(kuò)展出了Matrix超節(jié)點(diǎn)。
這套聯(lián)合方案,拿下了今年WAIC的SAIL獎(jiǎng),這是中興通訊連續(xù)第二年拿到這個(gè)獎(jiǎng)項(xiàng)。
供電和散熱,誰來解決?
除了OEX超節(jié)點(diǎn),中興通訊還面向大模型和高密智算時(shí)代,打造了一套算電協(xié)同、源網(wǎng)荷儲(chǔ)一體化的AIDC整體解決方案。
其中,800V高壓直流方案將于今年9月投入商用。
這套方案主要解決兩個(gè)問題,一個(gè)是供電損耗,一個(gè)是散熱壓力。
這兩個(gè)問題,背后都有同一個(gè)誘因——由于智能算力需求的增長(zhǎng),機(jī)柜功率密度也隨之猛增。
供電損耗這道題,卡在傳統(tǒng)供電鏈路上。
傳統(tǒng)數(shù)據(jù)中心用的是多級(jí)交流直流轉(zhuǎn)換鏈路,從市電到UPS到服務(wù)器電源這一路轉(zhuǎn)換下來,供電效率大約是94%。
機(jī)柜密度越高,損耗就越嚴(yán)重。
以一個(gè)10兆瓦級(jí)的數(shù)據(jù)中心算,傳統(tǒng)供電模式下,單是電力損耗每年就要多花數(shù)百萬元運(yùn)營(yíng)成本。
功率密度的增高,還會(huì)帶出另一重麻煩。
同一電壓下,功率的增高必然伴隨著電流變大,于是銅排和電纜截面就得做得更粗,施工難度、占地面積、銅材成本一起往上走。
中興通訊的思路也順理成章,既然功率=電流×電壓,那么不想讓電流太大,就得把電壓提上去。
于是,便有了中興通訊的800V HVDC方案。
![]()
這套方案,能把電流降低50%到80%,于是線路便能做得更細(xì),機(jī)房空間和建設(shè)投入也跟著省下來。
同時(shí),由于電流變小,熱損耗也隨之降低,電纜銅耗減少50%到60%,端到端供電效率從94%提到了98%。
這套系統(tǒng)單套容量最高能到2兆瓦,支持單柜功耗超過200千瓦的智能計(jì)算柜,傳統(tǒng)供電方案在這個(gè)功率級(jí)別上基本撐不住。
另一邊的散熱壓力,則是卡在風(fēng)冷的物理極限上。
訓(xùn)練集群的功率密度越來越高,風(fēng)冷已經(jīng)很難把熱量高效帶走,機(jī)柜的物理部署和管理也跟著變復(fù)雜。
中興通訊用智算微模塊和液冷方案解決了這個(gè)問題。
智算微模塊把本地監(jiān)控、風(fēng)扇墻、封閉通道、CDU液冷分配單元、800V HVDC、智能母線融合成一體,能支持單機(jī)柜250千瓦以上的部署,電能使用效率PUE可以低到1.15。
除了更精密的調(diào)度,硬件本身上也要做文章。
中興通訊的冷板式液冷方案,單柜制冷量可從1500kW擴(kuò)展到2400kW,采用1+1冗余配置,支持在線不中斷更換冷卻液。
另外系統(tǒng)里還內(nèi)置了一套AI驅(qū)動(dòng)的DCIM平臺(tái),根據(jù)負(fù)載變化動(dòng)態(tài)調(diào)整供電和散熱的關(guān)系,做的是預(yù)測(cè)性優(yōu)化,不必等出問題了再補(bǔ)救。
除了供電和散熱,實(shí)際項(xiàng)目里,往往還有第三個(gè)變量拖后腿——交付周期。
傳統(tǒng)模式下,算力、電力、熱力、管理這幾個(gè)系統(tǒng)常常是分頭規(guī)劃、各自建設(shè),等到最后現(xiàn)場(chǎng)集成調(diào)試,才發(fā)現(xiàn)彼此不兼容,返工是常事,工期也跟著往后拖。
中興通訊的做法,是在方案設(shè)計(jì)之初,就把算力(Bit)、電力(Watt)、熱力(Heat)、管理(Management)這四個(gè)維度深度耦合在一起,形成「4T協(xié)同」。
配合90%的工廠預(yù)制模塊化生產(chǎn),配電、算力、制冷這些單元在工廠里就先裝配好,運(yùn)到現(xiàn)場(chǎng)只需要拼裝,不用從頭施工。
一個(gè)20MW規(guī)模的智算園區(qū),整體交付周期因此能壓縮到4.5個(gè)月。
從Bit到Token
OEX超節(jié)點(diǎn)負(fù)責(zé)把算力集中起來、連起來,AIDC負(fù)責(zé)把電和熱的問題解決掉,這兩套東西,解決了算力的生產(chǎn)環(huán)節(jié)。
算力生產(chǎn)出來之后,還要一路送到手機(jī)、機(jī)器人這些應(yīng)用端,才算真正用起來。
中興通訊管這一整條從底層算力到終端應(yīng)用的鏈條,叫「從Bit到Token」。
Bit是算力和存儲(chǔ)的最小單位,Token是大模型生成內(nèi)容的最小單位,中間的過程中,機(jī)架里每一次運(yùn)算省下來的電、縮短的時(shí)延,最終都要落進(jìn)用戶跟AI對(duì)話時(shí)看到的那一個(gè)個(gè)字。
中興通訊是做通信設(shè)備起家的。
通信網(wǎng)絡(luò)解決的核心問題,是怎么把海量數(shù)據(jù)高效、可靠地從一個(gè)節(jié)點(diǎn)送到另一個(gè)節(jié)點(diǎn)。
OEX超節(jié)點(diǎn)的機(jī)內(nèi)高速互聯(lián)、多協(xié)議兼容,本質(zhì)上是這套能力在機(jī)柜內(nèi)部的復(fù)用。
800V HVDC的電力傳輸設(shè)計(jì),也是通信行業(yè)積累的大規(guī)模網(wǎng)絡(luò)調(diào)度經(jīng)驗(yàn),挪到了電力這條線上。
這兩套方案,形成了中興通訊「連接加算力」的雙輪驅(qū)動(dòng)。
用高速無損互聯(lián)把數(shù)十甚至上百個(gè)GPU芯片整合成一個(gè)超節(jié)點(diǎn),英偉達(dá)用GB200 NVL72蹚過一次。
現(xiàn)在,超節(jié)點(diǎn)已經(jīng)成為新一代AI算力架構(gòu)的核心突破方向。
此刻,中興通訊正在聯(lián)合芯片廠商,把超節(jié)點(diǎn)從概念做成產(chǎn)品。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.