4萬Agent協同、多模型組隊，Agent基礎設施開始重構

編輯 | 澤南

AI 智能體，現在有了專用的算力。

上周四，北京舉行的開放計算技術大會（OCTS26）上，浪潮信息推出了業界首款 CPU 原生液冷整機柜服務器與元腦 SD200 超節點 AI 服務器等一系列 AI 基礎設施產品。

當產業共識從「做大模型」轉向「用智能體」時，針對應用范式正在發生變革的 AI 工作負載，浪潮信息完成了算力體系的底層重構。

Agent 時代需要專門優化的算力

今年是智能體（Agent）規模化應用的關鍵節點。據 IDC 預測，2025-2030 年全球智能體市場年復合增長率將達到 139%。Gartner 判斷認為，今年將有 40% 的企業應用集成智能體，到 2028 年，超三成企業應用將深度嵌入智能體能力。

在軟件層面上，技術落地的趨勢已經滲透到了各個層面：一方面，Kimi、DeepSeek、GLM 等先進大模型持續向智能體原生化方向升級，模型自身的任務規劃、工具調用與自主執行能力不斷強化；另一方面，ChatGPT Work、Workbuddy 等企業級智能體框架廣泛滲透辦公、研發、運營等業務場景，企業 AI 應用正從「單次調用模型完成問答」，轉向成百上千個智能體在后臺持續協同、自主完成復雜任務的「群智工作模式」。

過去的大模型像個大腦，而原生智能體大模型驅動的應用，相當于機器人裝上了手和腳，已經為執行任務做好了準備。

但與此同時，這種進化也為 AI 算力提出了極高的要求。從單次對話到端到端的項目交付，Token 的消耗呈指數級增長，一個用戶請求可能觸發下游數百個子任務和工具調用，這就意味著背后服務器中數百個芯片內核的調用。

面對復雜的工作負載，算力硬件的分工也在被重新定義。傳統上「CPU 負責調度、GPU 負責計算」的簡單分工被打破。

從底層邏輯看，每個智能體本質上都是一個小型 CPU 沙箱環境，核心承載邏輯管理、流程資源調度、系統協同等工作，它們的工作方式并非 GPU 擅長的并行矩陣運算，工作天然適合交給 CPU 來處理。研究顯示，在智能體執行鏈路中，CPU 處理相關環節的時間占端到端延遲的比例最高可達 90.6%。

這意味著 CPU 的重要性將會顯著提升。GPU 決定模型能力的上限，而 CPU 驅動的多智能體協同，能通過工程化手段提升 AI 輸出結果的完整與可靠性。

反映到算力配比上，面向智能體時代，數據中心整體將會新增大量獨立的純 CPU 算力集群。傳統 AI 服務器中 CPU 與 GPU 的算力配比約為 1:8 到 1:4，而在智能體時代，數據中心不僅需要海量的 GPU 執行大模型推理，還需要 CPU 服務器來承擔智能體主機的負載。

來自產業端的信息顯示，國內頭部互聯網企業今年 CPU 服務器的新增采購，幾乎全部投向智能體相關業務。與之匹配的智能體基礎設施（Agent Infra）也成為行業共同探索的方向。

這一范式的轉變，正在重新定義 AI 的基礎設施。

CPU 原生液冷整機柜服務器，打造高密度群智協同載體

在 7 月 9 日舉辦的 2026 開放計算技術大會上，浪潮信息面向智能體時代發布了兩大核心成果：業界首款 CPU 原生液冷整機柜服務器與元腦 SD200 超節點 AI 服務器，從 CPU 算力底座與 GPU 推理引擎兩端，給出了智能體規模化落地的開放架構解決方案。

智能體時代最鮮明的特征，是「群智協同」成為常態，任務的完成不再是單個模型的一次響應，而是由大量智能體分工執行任務規劃、工具調用、數據檢索、流程執行與結果匯總，背后需要規模空前的 CPU 算力作為支撐。

在公有云場景中，頭部智能體應用已呈現出驚人的 CPU 資源消耗特征：每一個智能體實例通常需要占用兩個 CPU 核心，支撐沙箱運行、任務拆解與外部交互，億級用戶規模的智能體產品，背后對應著海量持續運行的 CPU 算力池。

而在企業側，智能體的規模化部署更帶來了管控難題：分散在各終端的智能體存在權限混亂、安全審計缺失、版本不統一等風險，企業亟需一個統一、可管控、可規模化的智能體運行底座。

數據中心功耗密度攀升是推動架構重構的第二動因。傳統風冷散熱的單機柜功率極限約為 40-50 千瓦，而到 2026 年底，高密度 AI 算力機柜的單機柜功率將突破 300 千瓦級，增長幅度達 10-50 倍，這早已超越了風冷甚至是風液混合散熱的上限。也正因如此，原生液冷成為高密度算力的必然選擇。

浪潮信息推出的業界首款 CPU 原生液冷整機柜服務器，以原生液冷全新架構架構重新定義 CPU 計算系統。

在原生液冷架構下，它基于開放 OCM 架構打造，單機柜最高可支持 384 顆多元 CPU 處理器，能夠支撐 4 萬+個智能體同時協同運行，大幅提升了企業側智能體部署的密度與管理效率。

該機柜單柜功耗最高可達兆瓦，是傳統通用 CPU 機柜的數倍。

區別于傳統風液混合散熱方案，這款 CPU 整機柜服務器采用原生液冷架構，通過計算與散熱的協同設計，對內存、光模塊、網卡等全部發熱部件進行解耦與平面化重構，依托一體化冷板實現零軟管、零線纜、零風扇的極致散熱形態，從硬件底層解決了高密度 CPU 系統的散熱瓶頸，同時提升了系統運行可靠性與能效水平。

這款機柜的核心技術突破集中在三個維度：

• CPU 計算系統重構。該方案與在風冷散熱架構中加裝液冷的傳統思路不同，對散熱和計算架構協同設計，打造出 0.5U 超薄算力節點，可實現 2U 空間內部署 16 顆 CPU 的高密度架構；
• 標準化算力模組。基于液冷 OCM 開放算力模組架構設計，支持 X86、ARM 等多元架構 CPU 無縫兼容，可根據業務需求靈活衍生不同形態的算力節點，兼顧高負載下的性能穩定性與長上下文場景的大內存、高帶寬需求
• 全域部件液冷重構。突破傳統液冷僅覆蓋 CPU 的局限，對內存、網卡、光模塊等所有發熱部件一并納入液冷散熱體系，無線纜設計，支持熱維護，保障業務零中斷，整機柜運維效率提升 100% 以上。

面向未來 GW 級智算中心的演進，高密度液冷機柜也同步適配了 800V 高壓進機柜的供電趨勢。傳統 380V 供電在單機柜百千瓦級場景下，會面臨銅纜過粗、施工與運維難度劇增的問題，800V 高壓直流已成為兆瓦級機柜的標配。這樣的架構設計為下一代供電標準預留了適配空間。

元腦 SD200 超節點升級，萬億模型 Token 生成延遲低至 4.77ms

如果說原生液冷服務器解決了智能體能不能規模化跑起來的問題，那么升級后的元腦 SD200 超節點 AI 服務器，則為智能體提供了高質量、低延遲的「智能輸出引擎」。

這一次，浪潮信息帶來了升級后的元腦 SD200 超節點 AI 服務器，并宣布率先完成了對 Kimi K2.6、DeepSeek V4、GLM 5.2、MiniMax M3 等主流領先開源大模型的高性能優化。這是元腦 SD200 系列的重要迭代：2025 年產品首發時，元腦 SD200 就實現了 8.9ms 的單 Token 生成速度，是國內首個突破 10ms 大關的超節點系統。

經過一年的架構優化，元腦 SD200 性能再次實現突破，實測數據顯示，在 Kimi K2.6 萬億參數模型上，該服務器的單 Token 生成時間僅需 4.77ms，首 Token 延遲較優化前顯著降低 35%，能夠充分支撐智能體高頻調用、多輪交互與多智能體并行協作的低延遲需求。

浪潮信息表示，這一性能提升來自于軟硬全鏈路的協同優化。其在硬件層面持續優化了超節點內部的 Fabric 互聯架構，提升卡間通信路由的確定性，降低通信耗時；軟件層面則引入了多 token 預測、JIT 等推理優化技術。

當前，企業智能體的應用場景正快速走向復雜化，單一模型已難以覆蓋長文本理解、代碼生成、邏輯推理、多模態處理、行業知識問答等多元需求。不同模型在各能力維度各有所長，「多模融合」正成為提升智能體智能水平的核心路徑：通過多個先進 AI 模型并行生成結果，再經評審、比對與融合機制形成最終輸出，能夠有效突破單一模型的能力邊界與視角局限，為智能體提供更穩定、可信的智能供給。

這一路線的有效性已得到驗證，在 DRACO 深度研究基準測試中，融合模型取得 53.9% 的最優成績，驗證了其在復雜調研、多步驟分析場景的能力優勢；在 AIME 2026 數學推理、GPQA 通用高難問答兩項國際基準測試中，融合模型分別以 97.2% 和 90.8% 的成績領先單一模型，同時提升了復雜推理與專業知識問答能力。

在系統能力上，元腦 SD200 單機最大可承載 4 萬億參數規模的大模型，同時支持多個萬億參數模型并行部署，適配多模融合的應用模式。結合元腦企智 EPAI 平臺的多模融合能力，用戶僅需發起一次 API 調用，系統即可將任務同步分發至多款大模型，由不同模型生成候選結果后，再通過評審融合模型完成交叉分析與綜合判斷，輸出更完整、可靠的最終答案。

通過開放互連技術、軟硬協同優化與多模融合能力的系統級組合，這套模式突破了單點硬件的性能邊界，為復雜智能體應用提供了端到端的推理引擎支撐。

面向企業本地部署智能體的需求，浪潮信息同步推出了元腦 SD200 超節點企業版，其延續了標準版的原生內存語義開放互聯架構，基于開放交換架構構建 16 卡統一 Scale-up 計算域，實現統一尋址與低時延跨卡通信，可將萬億參數模型的首 token 延遲降低 40% 以上。企業版單機支持 TB 級統一顯存，可完整承載當前主流萬億參數開源模型，滿足企業長上下文理解、復雜邏輯推理、多智能體協同的核心業務需求，大幅降低了企業部署高性能智能體算力的門檻。

以往企業通常只部署千億參數模型，僅能實現 AI 輔助編碼、輔助寫作等淺度應用；而萬億參數模型可直接生成可用的完整代碼、完成復雜方案輸出，讓 AI 真正進入生產環節替代人力。現在，更多企業無需采購超大規模超節點，也能支撐起智能體的深度生產級應用。

開放協同加速 Agent 落地，算力升級驅動智能化轉型

從大模型到智能體，AI 基礎設施的創新正在從單純的硬件升級走向系統級的協同重構。

浪潮信息此次發布的兩大產品，形成了清晰的算力分工：GPU 超節點負責思考，持續輸出低延遲、高質量的 Token；CPU 原生液冷整機柜服務器負責行動，承載海量智能體調度編排、工具調用與有序協同。再搭配元腦企智 EPAI 平臺實現統一管控，三者共同構成了「群智協同 + 多模融合」的完整技術體系，呼應了 Agent 時代的核心演進方向。

從產業落地節奏看，2026 年下半年將成為超節點方案的規模化落地節點，國內頭部互聯網客戶已進入批量部署階段。在開放計算生態，標準化硬件架構、協同優化的軟硬體系的持續推動下，單位 Token 生成成本與智能體運行成本將會持續降低，從而推動 AI 真正走向全企業、全流程的規模化落地，成為企業業務流程重構、生產效率提升的核心驅動力。

AI 智能體的崛起，標志著一場算力基礎設施變革的開始。長遠來看，Token 生產將如同工業流水線一般，走向更精細的環節拆分：Prefill 階段與 Decode 階段分離，Decode 階段的注意力計算、前饋網絡也將拆分，每個環節匹配最適配的芯片架構與系統設計，實現全鏈路效率最優。

這一演進方向，也與浪潮信息融合架構的底層邏輯相通：通過高速互聯實現算力、內存、存儲的池化，讓所有資源可自由連接、按需組合、價值最大化。預計未來二到三年內，GW 級智算中心將逐步落地，新形態的智算基礎設施將會支撐 AI 從技術創新全面走向大規模應用。