4萬Agent協(xié)同、多模型組隊，Agent基礎設施開始重構

編輯 | 澤南

AI 智能體，現(xiàn)在有了專用的算力。

上周四，北京舉行的開放計算技術大會（OCTS26）上，浪潮信息推出了業(yè)界首款 CPU 原生液冷整機柜服務器與元腦 SD200 超節(jié)點 AI 服務器等一系列 AI 基礎設施產(chǎn)品。

當產(chǎn)業(yè)共識從「做大模型」轉(zhuǎn)向「用智能體」時，針對應用范式正在發(fā)生變革的 AI 工作負載，浪潮信息完成了算力體系的底層重構。

Agent 時代需要專門優(yōu)化的算力

今年是智能體（Agent）規(guī)模化應用的關鍵節(jié)點。據(jù) IDC 預測，2025-2030 年全球智能體市場年復合增長率將達到 139%。Gartner 判斷認為，今年將有 40% 的企業(yè)應用集成智能體，到 2028 年，超三成企業(yè)應用將深度嵌入智能體能力。

在軟件層面上，技術落地的趨勢已經(jīng)滲透到了各個層面：一方面，Kimi、DeepSeek、GLM 等先進大模型持續(xù)向智能體原生化方向升級，模型自身的任務規(guī)劃、工具調(diào)用與自主執(zhí)行能力不斷強化；另一方面，ChatGPT Work、Workbuddy 等企業(yè)級智能體框架廣泛滲透辦公、研發(fā)、運營等業(yè)務場景，企業(yè) AI 應用正從「單次調(diào)用模型完成問答」，轉(zhuǎn)向成百上千個智能體在后臺持續(xù)協(xié)同、自主完成復雜任務的「群智工作模式」。

過去的大模型像個大腦，而原生智能體大模型驅(qū)動的應用，相當于機器人裝上了手和腳，已經(jīng)為執(zhí)行任務做好了準備。

但與此同時，這種進化也為 AI 算力提出了極高的要求。從單次對話到端到端的項目交付，Token 的消耗呈指數(shù)級增長，一個用戶請求可能觸發(fā)下游數(shù)百個子任務和工具調(diào)用，這就意味著背后服務器中數(shù)百個芯片內(nèi)核的調(diào)用。

面對復雜的工作負載，算力硬件的分工也在被重新定義。傳統(tǒng)上「CPU 負責調(diào)度、GPU 負責計算」的簡單分工被打破。

從底層邏輯看，每個智能體本質(zhì)上都是一個小型 CPU 沙箱環(huán)境，核心承載邏輯管理、流程資源調(diào)度、系統(tǒng)協(xié)同等工作，它們的工作方式并非 GPU 擅長的并行矩陣運算，工作天然適合交給 CPU 來處理。研究顯示，在智能體執(zhí)行鏈路中，CPU 處理相關環(huán)節(jié)的時間占端到端延遲的比例最高可達 90.6%。

這意味著 CPU 的重要性將會顯著提升。GPU 決定模型能力的上限，而 CPU 驅(qū)動的多智能體協(xié)同，能通過工程化手段提升 AI 輸出結果的完整與可靠性。

反映到算力配比上，面向智能體時代，數(shù)據(jù)中心整體將會新增大量獨立的純 CPU 算力集群。傳統(tǒng) AI 服務器中 CPU 與 GPU 的算力配比約為 1:8 到 1:4，而在智能體時代，數(shù)據(jù)中心不僅需要海量的 GPU 執(zhí)行大模型推理，還需要 CPU 服務器來承擔智能體主機的負載。

來自產(chǎn)業(yè)端的信息顯示，國內(nèi)頭部互聯(lián)網(wǎng)企業(yè)今年 CPU 服務器的新增采購，幾乎全部投向智能體相關業(yè)務。與之匹配的智能體基礎設施（Agent Infra）也成為行業(yè)共同探索的方向。

這一范式的轉(zhuǎn)變，正在重新定義 AI 的基礎設施。

CPU 原生液冷整機柜服務器，打造高密度群智協(xié)同載體

在 7 月 9 日舉辦的 2026 開放計算技術大會上，浪潮信息面向智能體時代發(fā)布了兩大核心成果：業(yè)界首款 CPU 原生液冷整機柜服務器與元腦 SD200 超節(jié)點 AI 服務器，從 CPU 算力底座與 GPU 推理引擎兩端，給出了智能體規(guī)模化落地的開放架構解決方案。

智能體時代最鮮明的特征，是「群智協(xié)同」成為常態(tài)，任務的完成不再是單個模型的一次響應，而是由大量智能體分工執(zhí)行任務規(guī)劃、工具調(diào)用、數(shù)據(jù)檢索、流程執(zhí)行與結果匯總，背后需要規(guī)模空前的 CPU 算力作為支撐。

在公有云場景中，頭部智能體應用已呈現(xiàn)出驚人的 CPU 資源消耗特征：每一個智能體實例通常需要占用兩個 CPU 核心，支撐沙箱運行、任務拆解與外部交互，億級用戶規(guī)模的智能體產(chǎn)品，背后對應著海量持續(xù)運行的 CPU 算力池。

而在企業(yè)側(cè)，智能體的規(guī)模化部署更帶來了管控難題：分散在各終端的智能體存在權限混亂、安全審計缺失、版本不統(tǒng)一等風險，企業(yè)亟需一個統(tǒng)一、可管控、可規(guī)模化的智能體運行底座。

數(shù)據(jù)中心功耗密度攀升是推動架構重構的第二動因。傳統(tǒng)風冷散熱的單機柜功率極限約為 40-50 千瓦，而到 2026 年底，高密度 AI 算力機柜的單機柜功率將突破 300 千瓦級，增長幅度達 10-50 倍，這早已超越了風冷甚至是風液混合散熱的上限。也正因如此，原生液冷成為高密度算力的必然選擇。

浪潮信息推出的業(yè)界首款 CPU 原生液冷整機柜服務器，以原生液冷全新架構架構重新定義 CPU 計算系統(tǒng)。

在原生液冷架構下，它基于開放 OCM 架構打造，單機柜最高可支持 384 顆多元 CPU 處理器，能夠支撐 4 萬+個智能體同時協(xié)同運行，大幅提升了企業(yè)側(cè)智能體部署的密度與管理效率。

該機柜單柜功耗最高可達兆瓦，是傳統(tǒng)通用 CPU 機柜的數(shù)倍。

區(qū)別于傳統(tǒng)風液混合散熱方案，這款 CPU 整機柜服務器采用原生液冷架構，通過計算與散熱的協(xié)同設計，對內(nèi)存、光模塊、網(wǎng)卡等全部發(fā)熱部件進行解耦與平面化重構，依托一體化冷板實現(xiàn)零軟管、零線纜、零風扇的極致散熱形態(tài)，從硬件底層解決了高密度 CPU 系統(tǒng)的散熱瓶頸，同時提升了系統(tǒng)運行可靠性與能效水平。

這款機柜的核心技術突破集中在三個維度：

• CPU 計算系統(tǒng)重構。該方案與在風冷散熱架構中加裝液冷的傳統(tǒng)思路不同，對散熱和計算架構協(xié)同設計，打造出 0.5U 超薄算力節(jié)點，可實現(xiàn) 2U 空間內(nèi)部署 16 顆 CPU 的高密度架構；
• 標準化算力模組。基于液冷 OCM 開放算力模組架構設計，支持 X86、ARM 等多元架構 CPU 無縫兼容，可根據(jù)業(yè)務需求靈活衍生不同形態(tài)的算力節(jié)點，兼顧高負載下的性能穩(wěn)定性與長上下文場景的大內(nèi)存、高帶寬需求
• 全域部件液冷重構。突破傳統(tǒng)液冷僅覆蓋 CPU 的局限，對內(nèi)存、網(wǎng)卡、光模塊等所有發(fā)熱部件一并納入液冷散熱體系，無線纜設計，支持熱維護，保障業(yè)務零中斷，整機柜運維效率提升 100% 以上。

面向未來 GW 級智算中心的演進，高密度液冷機柜也同步適配了 800V 高壓進機柜的供電趨勢。傳統(tǒng) 380V 供電在單機柜百千瓦級場景下，會面臨銅纜過粗、施工與運維難度劇增的問題，800V 高壓直流已成為兆瓦級機柜的標配。這樣的架構設計為下一代供電標準預留了適配空間。

元腦 SD200 超節(jié)點升級，萬億模型 Token 生成延遲低至 4.77ms

如果說原生液冷服務器解決了智能體能不能規(guī)模化跑起來的問題，那么升級后的元腦 SD200 超節(jié)點 AI 服務器，則為智能體提供了高質(zhì)量、低延遲的「智能輸出引擎」。

這一次，浪潮信息帶來了升級后的元腦 SD200 超節(jié)點 AI 服務器，并宣布率先完成了對 Kimi K2.6、DeepSeek V4、GLM 5.2、MiniMax M3 等主流領先開源大模型的高性能優(yōu)化。這是元腦 SD200 系列的重要迭代：2025 年產(chǎn)品首發(fā)時，元腦 SD200 就實現(xiàn)了 8.9ms 的單 Token 生成速度，是國內(nèi)首個突破 10ms 大關的超節(jié)點系統(tǒng)。

經(jīng)過一年的架構優(yōu)化，元腦 SD200 性能再次實現(xiàn)突破，實測數(shù)據(jù)顯示，在 Kimi K2.6 萬億參數(shù)模型上，該服務器的單 Token 生成時間僅需 4.77ms，首 Token 延遲較優(yōu)化前顯著降低 35%，能夠充分支撐智能體高頻調(diào)用、多輪交互與多智能體并行協(xié)作的低延遲需求。

浪潮信息表示，這一性能提升來自于軟硬全鏈路的協(xié)同優(yōu)化。其在硬件層面持續(xù)優(yōu)化了超節(jié)點內(nèi)部的 Fabric 互聯(lián)架構，提升卡間通信路由的確定性，降低通信耗時；軟件層面則引入了多 token 預測、JIT 等推理優(yōu)化技術。

當前，企業(yè)智能體的應用場景正快速走向復雜化，單一模型已難以覆蓋長文本理解、代碼生成、邏輯推理、多模態(tài)處理、行業(yè)知識問答等多元需求。不同模型在各能力維度各有所長，「多模融合」正成為提升智能體智能水平的核心路徑：通過多個先進 AI 模型并行生成結果，再經(jīng)評審、比對與融合機制形成最終輸出，能夠有效突破單一模型的能力邊界與視角局限，為智能體提供更穩(wěn)定、可信的智能供給。

這一路線的有效性已得到驗證，在 DRACO 深度研究基準測試中，融合模型取得 53.9% 的最優(yōu)成績，驗證了其在復雜調(diào)研、多步驟分析場景的能力優(yōu)勢；在 AIME 2026 數(shù)學推理、GPQA 通用高難問答兩項國際基準測試中，融合模型分別以 97.2% 和 90.8% 的成績領先單一模型，同時提升了復雜推理與專業(yè)知識問答能力。

在系統(tǒng)能力上，元腦 SD200 單機最大可承載 4 萬億參數(shù)規(guī)模的大模型，同時支持多個萬億參數(shù)模型并行部署，適配多模融合的應用模式。結合元腦企智 EPAI 平臺的多模融合能力，用戶僅需發(fā)起一次 API 調(diào)用，系統(tǒng)即可將任務同步分發(fā)至多款大模型，由不同模型生成候選結果后，再通過評審融合模型完成交叉分析與綜合判斷，輸出更完整、可靠的最終答案。

通過開放互連技術、軟硬協(xié)同優(yōu)化與多模融合能力的系統(tǒng)級組合，這套模式突破了單點硬件的性能邊界，為復雜智能體應用提供了端到端的推理引擎支撐。

面向企業(yè)本地部署智能體的需求，浪潮信息同步推出了元腦 SD200 超節(jié)點企業(yè)版，其延續(xù)了標準版的原生內(nèi)存語義開放互聯(lián)架構，基于開放交換架構構建 16 卡統(tǒng)一 Scale-up 計算域，實現(xiàn)統(tǒng)一尋址與低時延跨卡通信，可將萬億參數(shù)模型的首 token 延遲降低 40% 以上。企業(yè)版單機支持 TB 級統(tǒng)一顯存，可完整承載當前主流萬億參數(shù)開源模型，滿足企業(yè)長上下文理解、復雜邏輯推理、多智能體協(xié)同的核心業(yè)務需求，大幅降低了企業(yè)部署高性能智能體算力的門檻。

以往企業(yè)通常只部署千億參數(shù)模型，僅能實現(xiàn) AI 輔助編碼、輔助寫作等淺度應用；而萬億參數(shù)模型可直接生成可用的完整代碼、完成復雜方案輸出，讓 AI 真正進入生產(chǎn)環(huán)節(jié)替代人力。現(xiàn)在，更多企業(yè)無需采購超大規(guī)模超節(jié)點，也能支撐起智能體的深度生產(chǎn)級應用。

開放協(xié)同加速 Agent 落地，算力升級驅(qū)動智能化轉(zhuǎn)型

從大模型到智能體，AI 基礎設施的創(chuàng)新正在從單純的硬件升級走向系統(tǒng)級的協(xié)同重構。

浪潮信息此次發(fā)布的兩大產(chǎn)品，形成了清晰的算力分工：GPU 超節(jié)點負責思考，持續(xù)輸出低延遲、高質(zhì)量的 Token；CPU 原生液冷整機柜服務器負責行動，承載海量智能體調(diào)度編排、工具調(diào)用與有序協(xié)同。再搭配元腦企智 EPAI 平臺實現(xiàn)統(tǒng)一管控，三者共同構成了「群智協(xié)同 + 多模融合」的完整技術體系，呼應了 Agent 時代的核心演進方向。

從產(chǎn)業(yè)落地節(jié)奏看，2026 年下半年將成為超節(jié)點方案的規(guī)模化落地節(jié)點，國內(nèi)頭部互聯(lián)網(wǎng)客戶已進入批量部署階段。在開放計算生態(tài)，標準化硬件架構、協(xié)同優(yōu)化的軟硬體系的持續(xù)推動下，單位 Token 生成成本與智能體運行成本將會持續(xù)降低，從而推動 AI 真正走向全企業(yè)、全流程的規(guī)模化落地，成為企業(yè)業(yè)務流程重構、生產(chǎn)效率提升的核心驅(qū)動力。

AI 智能體的崛起，標志著一場算力基礎設施變革的開始。長遠來看，Token 生產(chǎn)將如同工業(yè)流水線一般，走向更精細的環(huán)節(jié)拆分：Prefill 階段與 Decode 階段分離，Decode 階段的注意力計算、前饋網(wǎng)絡也將拆分，每個環(huán)節(jié)匹配最適配的芯片架構與系統(tǒng)設計，實現(xiàn)全鏈路效率最優(yōu)。

這一演進方向，也與浪潮信息融合架構的底層邏輯相通：通過高速互聯(lián)實現(xiàn)算力、內(nèi)存、存儲的池化，讓所有資源可自由連接、按需組合、價值最大化。預計未來二到三年內(nèi)，GW 級智算中心將逐步落地，新形態(tài)的智算基礎設施將會支撐 AI 從技術創(chuàng)新全面走向大規(guī)模應用。