運(yùn)營(yíng)商：連接，永遠(yuǎn)有“飯”吃！

/記得星標(biāo)我/

比大部分人早一步看見(jiàn)未來(lái)

不知道你們是否也感覺(jué)到，運(yùn)營(yíng)商有很強(qiáng)烈的AI 焦慮。

AI 時(shí)代的價(jià)值鏈條里，核心是數(shù)據(jù)、計(jì)算和推理。運(yùn)營(yíng)商似乎又面臨被管道化的窘境，運(yùn)營(yíng)商很焦慮，于是，開(kāi)始著急忙慌地建智算中心，搞Token 經(jīng)營(yíng)，生怕錯(cuò)過(guò)這波紅利，最后被邊緣化。

這種焦慮可以理解，但其實(shí)，運(yùn)營(yíng)商還有其他路可走，還有飯可吃。

就在6 月 2 日臺(tái)北 Computex 大會(huì)上，黃仁勛和 Marvell CEO Matt Murphy 同臺(tái)對(duì)談時(shí)，說(shuō)了一句足以改變整個(gè) AI 產(chǎn)業(yè)方向的話(huà)。他說(shuō)，AI 的下一個(gè)瓶頸，不是算力，不是內(nèi)存，是連接。

怎么來(lái)理解這句話(huà)呢？

過(guò)去三年，AI 產(chǎn)業(yè)的主要矛盾是算力不夠。英偉達(dá)靠 GPU 解決了這個(gè)問(wèn)題，市值一路沖到 5 萬(wàn)億美元。

接下來(lái)一年，內(nèi)存成為新的瓶頸。HBM 價(jià)格暴漲，三星海力士美光三家市值都突破了萬(wàn)億美元。現(xiàn)在單卡 HBM 容量已經(jīng)做到 192GB，下一代 Blackwell Ultra 會(huì)到 288GB，單卡性能已經(jīng)足夠強(qiáng)大。

當(dāng)單個(gè)計(jì)算節(jié)點(diǎn)的性能不再是問(wèn)題，如何把數(shù)百萬(wàn)個(gè)這樣的節(jié)點(diǎn)高效協(xié)同起來(lái)，就成了限制系統(tǒng)整體性能的最后一公里。

黃仁勛所說(shuō)的連接，不是我們平時(shí)理解的網(wǎng)線(xiàn)那么簡(jiǎn)單。它是覆蓋AI 計(jì)算全棧的三層互聯(lián)體系。

第一層是芯片級(jí)互聯(lián)。也就是GPU 和 GPU 之間，GPU 和 CPU 之間的內(nèi)部高速公路。

英偉達(dá)的第五代NVLink，單 GPU 雙向帶寬已經(jīng)達(dá)到 1.8TB/s，第六代會(huì)提升到 3.6TB/s，是 PCIe Gen6 的 14 倍以上。通過(guò) NVLink Switch，可以實(shí)現(xiàn) 72 顆 GPU 的全互聯(lián)，單域支持 576 顆 GPU 協(xié)同計(jì)算，總帶寬達(dá)到 260TB/s。還有 NVLink-C2C 技術(shù)，實(shí)現(xiàn)了 GPU 和 Grace CPU 之間的一致性互聯(lián)，內(nèi)存可以統(tǒng)一尋址。

第二層是內(nèi)存級(jí)互聯(lián)。核心是打破內(nèi)存孤島的CXL 革命。

CXL 技術(shù)允許不同服務(wù)器的內(nèi)存池化共享，解決單卡顯存不足的問(wèn)題。Retimer 芯片是這個(gè)生態(tài)的核心組件，用來(lái)延長(zhǎng)高速信號(hào)的傳輸距離。有了 CXL，1M 上下文長(zhǎng)度的大模型，就不再受限于單卡 HBM 容量，KV-Cache 可以跨節(jié)點(diǎn)共享。

第三層是集群級(jí)互聯(lián)。也就是智算中心內(nèi)部的骨干網(wǎng)絡(luò)。

現(xiàn)在專(zhuān)為AI 優(yōu)化的 InfiniBand 和 Spectrum-X 以太網(wǎng)，可以實(shí)現(xiàn) 95% 的數(shù)據(jù)吞吐量，而標(biāo)準(zhǔn)以太網(wǎng)只能達(dá)到約 60%。當(dāng)傳輸距離超過(guò) 2.5 米，速率超過(guò) 400G 時(shí)，銅纜就達(dá)到了物理極限，必須采用硅光技術(shù)。還有 DPU，用來(lái)卸載網(wǎng)絡(luò)、存儲(chǔ)和安全任務(wù)，讓 GPU 專(zhuān)注于計(jì)算。

這三層連接，每一層都直接決定了AI 集群的整體效率。

現(xiàn)在大型AI 集群里，GPU 有高達(dá) 40% 的時(shí)間在空轉(zhuǎn)等待數(shù)據(jù)。昂貴的算力被嚴(yán)重浪費(fèi)。一個(gè)連接瓶頸導(dǎo)致的 10% 性能損失，在百萬(wàn)卡集群中，就意味著每天損失數(shù)百萬(wàn)美元的收入。

在這三層連接中，運(yùn)營(yíng)商能干什么呢？

運(yùn)營(yíng)商能干的事情很多，比如——

五月初，中國(guó)移動(dòng)在移動(dòng)云大會(huì)上正式發(fā)布了商用級(jí)全向智感IP Core。這是國(guó)內(nèi)首個(gè)進(jìn)入規(guī)模化商用階段的自主可控開(kāi)放 GPU 卡間互聯(lián)技術(shù)體系。

它支持百卡級(jí)單機(jī)柜全互聯(lián)，單個(gè)超節(jié)點(diǎn)最多可以連接1024 張計(jì)算卡，構(gòu)建起無(wú)阻塞的算力池。卡間互聯(lián)帶寬達(dá)到 TB/s 級(jí)別，端到端通信時(shí)延縮短到百納秒級(jí)，比傳統(tǒng)協(xié)議方案性能提升了約 1.7 倍。

實(shí)際業(yè)務(wù)測(cè)試的數(shù)據(jù)更有說(shuō)服力。用DeepSeek-V3 模型在萬(wàn)卡級(jí)集群上做訓(xùn)練，采用這個(gè)技術(shù)之后，模型算力利用率提升了 1.53 倍，訓(xùn)練時(shí)間直接縮短了 3.59 天。這意味著同樣的算力投入，能產(chǎn)出更多的成果，也能大幅降低大模型的訓(xùn)練成本。

目前這個(gè)技術(shù)已經(jīng)向全產(chǎn)業(yè)鏈開(kāi)放，協(xié)同創(chuàng)新平臺(tái)匯聚了超過(guò)50 家合作伙伴，覆蓋了從芯片設(shè)計(jì)、整機(jī)制造到終端應(yīng)用的全鏈條。這不僅解決了國(guó)內(nèi)智算產(chǎn)業(yè)互聯(lián)技術(shù)卡脖子的問(wèn)題，也為異構(gòu)芯片的兼容互通提供了標(biāo)準(zhǔn)化的底座。

這只是一個(gè)例子，運(yùn)營(yíng)商能做的遠(yuǎn)不止于此。

- 04 -

連接，是運(yùn)營(yíng)商的老本行，也是最擅長(zhǎng)的環(huán)節(jié)。

過(guò)去芯片級(jí)互聯(lián)主要由英偉達(dá)等國(guó)外廠商主導(dǎo)，但中國(guó)移動(dòng)的實(shí)踐證明，運(yùn)營(yíng)商完全有能力深入到智算集群最核心的根技術(shù)層面。更不用說(shuō)集群級(jí)互聯(lián)和內(nèi)存級(jí)互聯(lián)的大規(guī)模部署和運(yùn)營(yíng)，本來(lái)就是運(yùn)營(yíng)商積累了幾十年的核心能力。

更重要的是，AI 時(shí)代的連接，遠(yuǎn)不止智算中心內(nèi)部這三層。

還有智算中心到用戶(hù)的連接。未來(lái)AI 應(yīng)用的體驗(yàn)，很大程度上取決于從智算中心到端側(cè)的網(wǎng)絡(luò)質(zhì)量。低延遲、高帶寬的網(wǎng)絡(luò)，是 AI 服務(wù)流暢運(yùn)行的基礎(chǔ)。

還有智算中心到Agent 的連接。AI 正在從被動(dòng)問(wèn)答轉(zhuǎn)向自主執(zhí)行，Agent 需要實(shí)時(shí)調(diào)用大模型、工具和數(shù)據(jù)庫(kù)，產(chǎn)生海量跨節(jié)點(diǎn)的實(shí)時(shí)通信需求。

還有Agent 與 Agent 之間的連接。未來(lái)會(huì)有無(wú)數(shù)個(gè)不同功能的 Agent，它們之間需要互相協(xié)作，完成復(fù)雜的任務(wù)。這會(huì)產(chǎn)生一個(gè)全新的、規(guī)模空前的連接網(wǎng)絡(luò)。

這些連接，都是運(yùn)營(yíng)商可以發(fā)揮核心作用的地方。

- 05 -

運(yùn)營(yíng)商大可不必如此焦慮，不用非要和云廠商搶算力，也不用絞盡腦汁去搞Token 經(jīng)營(yíng)，這是一條路，我認(rèn)為運(yùn)營(yíng)商可以走得從容一點(diǎn)。

運(yùn)營(yíng)商還有另一條確定性更強(qiáng)的路——

把連接這個(gè)老本行做到極致，把智算中心內(nèi)部的連接做好，把智算中心到用戶(hù)的連接做好，把智算中心到Agent 的連接做好，把 Agent 與 Agent 之間的連接做好。

只要把這些連接都做好，運(yùn)營(yíng)商永遠(yuǎn)有飯吃。