![]()
智東西
作者 ZeR0
編輯 漠影
智東西7月23日圣何塞報道,剛剛,在年度AMD Advancing AI大會上,AMD董事會主席兼CEO蘇姿豐博士連放大招,發布AMD最強AI芯片Instinct MI455X GPU、“最強智能體CPU”Venice、“最強機架級AI基礎設施”Heilos,還有一款專為機器人設計的Ryzen芯片。
![]()
總體來看,今日AMD連宣7項重磅發布:
- 機架級AI平臺Heilos
- 服務器CPU“Venice”
- Instinct MI400系列GPU(包括MI455X和MI430X)
- 風冷PCIe GPU MI350P
- AI軟件棧ROCm.ai
- 本地AI開發者平臺“Gorgon Halo”
- Kria AI機器人系統模塊&開發者平臺
![]()
同時,蘇姿豐公布了AMD GPU、CPU、機架級AI基礎設施的最新路線圖。
GPU產品中,MI500系列預計明年發布,采用下一代HBM,支持更大的縱向擴展網絡,并引入新的銅互連和光互連技術;MI600系列正在開發中,將于2028年發布。
![]()
下一代MI500的推理吞吐量將飆升到MI300X的2000倍以上。
![]()
服務器CPU中,今天發布的第六代“Venice”是AMD首款2nm服務器CPU,首用512線程和PCIe 6.0;第七代服務器CPU“Florence”將采用新一代制程節點和內存,預計2028年出貨;第八代“Ravenna”正在開發中,預計2030年出貨。
![]()
機架AI基礎設施中,近三年路線圖如下:
- Helios今日發布,采用“Venice” CPU、MI455X系列GPU、Pensando “Vulcano” AI NIC和“Salina” DPU。
- Helios 500明年問世,將采用“Verano” CPU、MI500系列GPU、Pensando “Como” AI NIC和“Monza” DPU。
- Helios 600計劃2028年出貨,將采用“Ferrara” CPU、MI600系列GPU、Pensando “Palma” AI NIC和“Levanzo” DPU。
![]()
GPU方面,MI455X采用臺積電2nm和3nm工藝技術,基于CDNA 5架構,擁有3200億顆晶體管,采用Chiplet和先進3D堆疊封裝技術,將12個計算Chiplet及I/O Chiplet與432GB HBM4結合,FP4峰值算力達40PFLOPS。
![]()
Signal65近期發布的一份獨立報告顯示,用多個主流開源模型做真實工作負載測試,上一代AMD MI355X GPU的吞吐量接近甚至超過英偉達B200,且具備高性價比。
![]()
AMD還推出一張面向企業服務器的風冷PCIe GPU——Instinct MI350P,擁有144GB HBM3e、4TB/s顯存帶寬、PCIe 5.0×16,最高TBP 600W,也可配置至450W,單卡可支持最高2600億參數規模的模型。
MI350P每美元每秒產生的Token數量是英偉達RTX Pro 4000的4.2倍。
![]()
AMD內部重點測試了自主威脅檢測和運行個人智能體兩個場景,通過Token路由,一部分請求發送給云端前沿模型,另一部分則路由到運行在EPYC和MI350P上的開放權重模型,最終將Token成本降低約43%,本地運行工作負載的響應速度最高提高約3倍。
![]()
這種云端前沿模型與企業本地模型結合的混合架構,將成為企業AI的重要部署方式。
機架級AI基礎設施方面,AMD詳細對比了Helios與英偉達Vera Rubin機架。Helios在FP4性能、FP8性能、HBM容量與帶寬、橫向擴展帶寬方面都更勝一籌。
![]()
這些是AMD在Helios上實測出的MI455X性能:HBM帶寬達20TB/s,FP4算力達20PFLOPS,單GPU縱向擴展帶寬為3.2TB/s,橫向擴展帶寬為190GB/s。
![]()
AMD高管稱,這些是“GPU廠商迄今公開過的最高實測數字”。
CPU方面,AMD將“Venice”跟本周剛披露的英偉達Vera CPU性能數據作對比:“Venice”的吞吐性能達到Vera的2.2倍,每核性能在開箱狀態、還沒做性能調優的情況下就領先20%。
![]()
搭載“全球最強智能體CPU”的機架,自然也就是“全球最強智能體CPU機架”。
![]()
本地AI方面,AMD Ryzen AI Max 400系列的高端升級版“Gorgon Halo”,擁有192GB統一內存,本地可運行3000億參數級大模型。
物理AI方面,AMD發布Ryzen AI Embedded X100系列處理器、Kira AI機器人開發者平臺、Kria AI系統模塊、Kria AI機器人軟件套件,并曬出機器人“朋友圈”。
![]()
AMD還強調了自家產品組合能把自主機器人從身到腦“承包”:
- Kira AI:機器人的“大腦”,負責高級感知和推理。
- Versal AI Edge:機器人的“脊柱”,負責高速數據與自適應計算。
- Zynq UltraScale+:機器人的“關節”和實時控制。
- Spartan UltraScale+:傳感器連接與底層接口。
![]()
軟件方面,AMD發布了ROCm.ai軟件棧,并放出跑MiniMax M3、DeepSeek-V4 Pro的演示視頻。
在這場發布會中,我們看到很多中國合作伙伴和模型的名字。比如字節、騰訊、阿里、月之暗面、聯想等企業,以及MiniMax、DeepSeek、Kimi、Xiaomi MiMo、GLM、Qwen等模型。
![]()
有意思的是,除了發布自家AI芯片外,AMD還在會上宣布與憑借造出全球最大芯片而聞名的美國AI芯片公司Cerebras Systems建立技術合作伙伴關系,共同推出一種全新的解耦式AI推理解決方案,將AMD Helios機架級解決方案與Cerebras晶圓級引擎相結合,預計這兩個計算引擎協同工作,每瓦每秒Token將提升到5倍。
Cerebras計劃在其數據中心部署AMD Helios系統,該聯合解決方案預計今年下半年通過Cerebras Cloud推出。
蘇姿豐說,去年AMD預測AI加速器市場到2028年將達到約5000億美元,但今天看來,它有些保守了。AMD現在預計,到2030年,AI加速器市場規模將達到約1.4萬億美元(約合人民幣9.48萬億元)。
![]()
這意味著到本十年末,屆時AI加速器市場的規模,將接近今天整個半導體市場的規模。
未來會出現多種不同類型的加速器。蘇姿豐預計GPU仍將占據這個市場的絕大部分,因為AI算法依然處于早期階段,工作負載還在快速變化,這種環境更有利于具備可編程性的GPU及其軟件生態。
![]()
會后,蘇姿豐及多位AMD高管接受智東西等全球媒體提問。蘇姿豐談道,AMD在服務器CPU領域擁有無可爭議的領先地位,正在為未來AI計算需求鋪設自己的道路,從MI450到MI500將是重大躍遷。
AMD認為自己的市場機會到2030年可以達到約2萬億美元(約合人民幣13.54萬億元),希望在所參與的細分市場中實現快于市場的增長。
一、MI455X GPU:2nm制程+HBM4顯存,AI算力達40PFLOPS
AMD Instinct MI455X GPU是AMD迄今最先進的AI芯片,也是全球首款2nm GPU芯片。
MI455X基于新一代AMD CDNA 5架構,擁有3200億顆晶體管,最高配備432GB HBM4顯存,支持FP4、FP6、FP8等AI數據格式。
![]()
該GPU采用Chiplet設計,其中計算Chiplet采用臺積電2nm制程工藝,其他Chiplet采用不同工藝。
與上一代MI355X相比,MI455X實現了代際跨越:
- 432GB HBM4顯存,比當前競品先進方案高50%
- 理論顯存帶寬最高23.3TB/s,提升至上一代的2.9倍
- MXFP8峰值浮點算力達20PFLOPS,是上一代的4倍
- MXFP4峰值浮點算力達40PFLOPS,是上一代的4倍
![]()
跑DeepSeek-V4 Flash模型時,MI455X的Token吞吐量最高可達到MI355X的34倍,每百萬Token成本最高可降低至原來的1/18。
![]()
MI455X的GPU創新主要集中在計算、緩存與內存系統、實際工作負載效率。
![]()
相較MI300/MI350系列,MI400系列的內部架構有些調整,在這一代計算架構中改用WGP(Workgroup Processor,工作組處理器)作為核心計算組織單位,而沒有沿用計算單元(Compute Unit)的表述。
XCD(Accelerator Complex Die)包含WGP。每個XCD有2個Shader Engine,2個Shader Engine被封裝在一個計算Chiplet中。每個Shader Engine物理實現17個WGP,其中啟用16個,另一個用于提高制造良率。
![]()
每顆GPU具有兩個全局L2緩存,每個容量為96MB。
MI455X與MI355X的一項重要區別是,L2緩存由多個計算Chiplet共享,每組8個Shader Engine共享一個全局L2。而在MI300/MI350系列中,每個Chiplet擁有自己的L2緩存。
因此,新一代重新劃分了不同裸片之間的邏輯功能。兩個L2緩存通過AMD Infinity Fabric連接并保持一致性。HBM4位于Infinity Fabric另一側,兩個L2均可訪問整個顯存空間。Infinity Fabric還把GPU核心與顯存系統連接到縱向擴展域內的其他GPU,以及橫向擴展網絡。
邏輯重新劃分也對應新的Chiplet劃分方式。
L2緩存被移到FCD,即Fabric and Cache Die(Fabric與緩存裸片)。FCD位于XCD下方,構成3D堆疊結構。每個FCD包含一個96MB L2緩存,對應6組HBM4接口,與8個Shader Engine相連。
整顆GPU包含2個FCD,通過中央Infinity Fabric鏈路連接,芯片兩端還配置I/O Die。
XCD采用臺積電N2工藝,FCD和I/O Die則采用適合緩存與I/O的N3P工藝,封裝周圍有12組HBM4。
![]()
在封裝層面,MI455X使用有機基板和臺積電CoWoS-L 2.5D封裝。
與MI300/MI350系列所采用的基于大型硅中介層的CoWoS-S不同,CoWoS-L在有機基板中嵌入局部硅橋。這種封裝方式能夠支持比MI355X更大的GPU模塊。
XCD通過AMD此前幾代已使用的3D混合鍵合技術堆疊在FCD上,形成SoIC模塊。HBM4和I/O Die再通過CoWoS-L與這些模塊互連。
這種組合使AMD可以針對架構拆分后的不同部分,選擇合適的互連方式:
- XCD與L2之間需要極高帶寬和極低時延,因此采用3D互連。
- 其他對時延容忍度更高的連接采用2.5D橫向互連。
![]()
計算方面的變化包括:
- MI455X是首款以Wave32為主要執行模式設計的Instinct GPU,并取消了對Wave64的支持,可降低指令延遲,減少分支發散懲罰,降低寄存器壓力。
- 新增MXFP8、MXFP6、MXFP4支持,還有支持更細粒度縮放因子的MXFP4量化。
- 新增tanh指令,把MI355X已有超越函數的吞吐提高1倍
- MI455X與MI355X都啟用256個WGP的架構,因此總體吞吐提升主要來自單個WGP能力的提高,MXFP8/FP8和MXFP4的計算吞吐量最高是MI355X的4倍,MXFP6的計算吞吐量最高是MI355X的2倍
![]()
緩存與內存層級方面,MI355X使用HBM3e,并在顯存與L2之間設置Infinity Cache。MI455X升級至432GB HBM4,同時取消獨立Infinity Cache層,把容量和帶寬集中到更大的全局L2。
每個FCD上的單個L2,帶寬就達到MI355X整體Infinity Cache聚合帶寬的1.5倍;兩個L2合計則達到3倍。兩個L2各自緩存整個GPU地址空間內的數據,并由Infinity Fabric保持一致性。
![]()
全局原子操作也被重新放回L2。系統范圍原子操作仍由Infinity Fabric支持;GPU設備范圍內的原子操作則直接在L2中執行,吞吐顯著高于MI355X。
從L2到WGP的有效張量帶寬最高放大到4倍,單SIMD寄存器與每個WGP的LDS(Local Data Share)容量提高至2倍。單SIMD的VGPR(Vector General-Purpose Register)也擴展到2倍。
為了減少數據移動和提高利用率,AMD讓數據搬運與計算充分重疊,提高GEMM、Flash Attention和短Kernel等AI負載的實際利用率與交付性能。
- 通過TDM(Tensor Data Mover)讓數據在全局顯存與LDS之間直接異步傳輸,減少寄存器中轉。
- 通過多個WGP組成集群、數據組播和預取,降低重復內存訪問并隱藏延遲。
- 借助更靈活的屏障同步和更低的Kernel調度延遲,減少各執行階段的等待與空轉。
![]()
MI400系列重新設計了系統DMA。過去,軟件可見的DMA隊列與物理DMA引擎直接綁定。新架構將其分為DMA前端(軟件可見的邏輯接口)和DMA后端(了解GPU內部物理位置、顯存分布和外部鏈路位置的執行引擎)。
軟件只需提交DMA工作項,不必理解虛擬地址如何映射到物理地址,也不必知道數據、引擎和縱向擴展鏈路在芯片上的物理位置。系統會把工作項拆分,并在多個DMA后端之間負載均衡。
![]()
MI455X支持與MI355X類似的NUMA和分區模式。整顆GPU可以作為一個大型NUMA域運行,對整個GPU進行細粒度地址交錯;也可以拆成兩個NUMA域,每個域主要使用自己的L2和相鄰HBM。
雙NUMA模式減少了緩存一致性壓力,使內存訪問更加本地化,從而提高效率。配合計算分區,軟件可以更有空間感知地調度任務和分配內存。
![]()
GPU也支持虛擬化,可劃分為1、2直至8個更小的邏輯GPU,并相應運行最多8個虛擬機。虛擬機之間的顯存隔離由GPU硬件負責,并不完全依賴NUMA劃分。
安全方面,MI400系列的安全體系以硬件加密信任根為基礎,搭配機密計算,同時提供強租戶隔離。
![]()
二、Helios:超過18000個GPU計算單元,每美元比英偉達機架多生產30%的token
過去兩年,每月Token消耗量暴漲158倍。前沿AI需要一套開放的機架級藍圖。
對此AMD構建了一套完全集成的機架級解決方案:CPU負責系統編排,GPU負責AI計算,高速網絡承擔無瓶頸通信,ROCm軟件棧把各部分連接。
今天,AMD正式推出Helios機架級AI平臺。
![]()
Helios基于開放標準設計,包含72張Instinct MI455X GPU和18張“Venice” CPU,通過Pensando網絡技術擴展,并由ROCm開源軟件加速。
- 主機計算:“Venice” CPU,配備96個高頻核心、PCIe 6.0連接及1.6TB/s內存帶寬。
- AI加速:MI455X GPU,擁有40PFLOPS FP4峰值算力、432GB HBM4、19.6TB/s顯存帶寬。
- 縱向擴展網絡:有6個專用交換托盤負責,通過Pensando DPU和基于以太網的UALink(UALoE)技術,可將72張GPU連接成一個統一系統,合計提供260TB/s的縱向擴展帶寬。
- 橫向擴展網絡:Pensando “Vulcano”AI NIC,單塊板最多可以配置6顆Vulcano器件,每個Helios計算托盤配置2塊相關網絡板卡,并采用開放的Ultra Ethernet技術。
![]()
MI455X安裝在AMD稱為增強型加速器模塊(Enhanced Accelerator Module,EAM)的生產模塊上,并直接部署到Helios中。EAM不只包含GPU封裝,還在一個緊湊、可維護的模塊中集成了GPU、HBM內存、供電系統、高速接口、系統管理、液冷冷板。
AMD稱Helios是“全球性能最高的機架級AI基礎設施解決方案”,整套機架可提供:
![]()
- 18000個CDNA 5 GPU計算單元。
- 4600個Zen 6 CPU核心。
- 72張MI455X GPU和18張CPU。
- 2.9EFLOPS FP4峰值算力。
- 1.4EFLOPS FP8峰值算力。
- 31TB HBM4,1.7PB/s帶寬。
- 43TB/s橫向擴展帶寬,260TB/s縱向擴展帶寬。
這就是AMD認為大規模運行智能體AI所需要的系統能力。
相比英偉達Vera Rubin NVL72解決方案,Helios的AI算力高出15%,HBM容量高出50%,橫向擴展帶寬高出50%。
![]()
這意味著Helios能為大模型提供更高性能,為長上下文提供更多內存容量,并擁有把系統擴展到數千個機架所需的帶寬。
在跑Kimi K2 Thinking模型時,Helios的吞吐量比英偉達Vera Rubin方案高出10%~15%。
![]()
據AMD披露,相比英偉達Vera Rubin NVL72,Helios每美元可多產生最多30%的Token。
![]()
Helios現已進入生產階段。AMD并不是直接把Helios作為一套整機產品出售,而是與合作伙伴協同,確保組成一套Helios機架所需的所有部件都能準備就緒,能夠確定性地向最終用戶交付。
OpenAI、Meta、Anthropic、微軟、Oracle都選用了Helios參考設計。三家頂尖大模型公司已承諾以吉瓦級規模部署Helios。
![]()
三、Venice CPU:實測打敗英偉達、英特爾、Arm平臺
隨著AI產業重心轉向推理,每Token成本變得極其重要,CPU正重新走到舞臺中央。
在數據中心領域,AMD服務器CPU的市場份額從2017年的大約0.2%,一路飆升到如今的46%。
![]()
回顧AMD歷代服務器CPU,第一代是“Naples”,第二代“Rome”提升了線程密度,第三代“Milan”進一步建立了單核性能優勢,從第四代“Genoa”開始產品提供不同優化方向,繼而發展到“Turin”和“Venice”。
![]()
第六代“Venice”相比第一代實現了18倍的吞吐性能。
![]()
當前正在快速放量、進展良好的第五代AMD EPYC 9005(代號“Turin”),已展現出性能優勢:
- 在通用CPU服務器場景中,性能最高可達相較88核英偉達Vera的2.4倍。
- 作為強調峰值頻率的GPU服務區主機節點,性能比72核英特爾至強6960P方案提升28%
- 在智能體CPU沙箱場景中,每瓦可承載的智能體數量是88核英偉達Vera的2倍
![]()
“Turin”不只面向AI或通用計算的處理器。
相比128核英特爾至強6980P,其SPEC CPU性能提升40%,企業級性能提升40%,HPC性能提升80%,基于CPU的AI性能提升70%。
第六代AMD EPYC 9006系列“Venice”,更是將CPU性能提升到一個新的層次。
![]()
AMD將“Venice”系列稱作“面向智能體時代的全球最強服務器CPU”,包括4款產品:
![]()
(1)“Venice” SP7:面向最高性能和大規模應用,最高256核/512線程,最大帶寬達1.6TB/s,支持64Gbps PCIe 6.0,96個核心擁有5.0Ghz頻率。
![]()
(2)“Venice” SP8:在高性能與系統成本之間取得平衡,8~128核,雙路系統提供8個內存通道,128條PCIe通道,提供高頻型號(HF)和面向NEBS環境優化的型號。
![]()
(3)“Venice-X”:面向AI預處理和HPC,最多96核,16個內存通道,最高12.8GT/s MRDIMM/DDR5,1152MB大容量L3緩存,最高5.15Ghz頻率。
![]()
(4)“Verano”:提高機架級效率,最多72核,LPDDR5x內存,增強版xGMI互連傳輸速率達112Gbps,最高5GHz頻率。
![]()
截至本周,“Venice” SP7已進入量產階段,預計2026年第四季度開始出貨;“Venice” SP8將在2027年第一季度出貨,“Venice-X”和“Verano”計劃在2027年第二季度出貨。
這是一個功能豐富、覆蓋面很廣的現代AI數據中心CPU產品組合。
- 計算:“Zen 6c”核心最高256核/512線程,“Zen 6”核心最高96核/192線程,提供1152MB L3 3D V-Cache,最高功耗600W。
- 存儲:8000MT/s 16通道DDR5,12800MT/s 16通道MRDIMM,支持24通道LPDDR5x 內存,并采用可現場更換的SOCAMM2內存模塊。
- I/O:首批支持PCIe 6.0的CPU,傳輸速率為64GT/s;第五代AMD Infinity Fabric。
- 安全:面向機密計算需求,增強硬件信任根,支持對物理攻擊和側信道攻擊的緩解措施。
![]()
它能作為優秀的GPU主機節點,最大限度提高GPU利用率,也能在智能體時代的CPU沙箱中,具備出色的技術屬性,將可承載的智能體數量最大化。
與英偉達、英特爾、Arm CPU相比,“Venice”有如下優勢:
- 在通用CPU服務器上,性能是88核英偉達Vera的3.3倍
- 作為GPU主機節點,前沿模型推理的每秒Token數是英特爾至強6960P的1.8倍
- 在智能體CPU沙箱中,每瓦智能體數量是136核Arm AGI的2.8倍
![]()
AMD使用相同編譯器,復現了英偉達白皮書中公布的Vera CPU各項條件,發現無論是絕對性能、每瓦性能、每核性能、帶寬,還是以不同訂貨型號(OPN)服務現代數據中心多種需求的能力,“Venice”都有優勢:“Venice”的吞吐性能是Vera的2.2倍,開箱狀態下每核心性能比Vera提升20%。
![]()
相比英特爾和Arm平臺,“Venice”吞吐量達到2倍,每核心性能達到1.3倍。
![]()
在企業級應用中,相比第六代英特爾至強,256核“Venice”可實現2.5~3.7倍的性能優勢。
![]()
在生命科學、量子化學、氣候預測等HPC場景中,256核“Venice”的性能是128核英特爾至強6980P的1.8倍~3.1倍。
![]()
一個使用了五年的老舊數據中心,如果有大約1000顆英特爾至強處理器,只需82張“Venice”就能完成替代,替換比例約為12:1,由此可減少77%功耗、92%的服務器數量、40%的5年TCO。
![]()
作為主機CPU,相比上一代“Turin”,“Venice”運行前沿模型的每秒Token數增加80%。
![]()
“Venice”可提供多種高密度方案。在一種配置中,其每機架最高可達到約4.9萬核,相當于88核英偉達Vera方案的2.2倍。
![]()
該處理器現已進入量產階段。
![]()
四、網絡三利器:400G DPU、UALoE、800G AI NIC
AMD多年來一直在建設前端網絡、縱向擴展網絡(scale-up)和橫向擴展網絡(scale-out),并在三個領域分別形成了領先方案。
Helios網絡系統包括三層:
(1)前端網絡:第三代Pensando Salina DPU,400G帶寬,性能翻倍,負責軟件定義網絡、在線加密和多種安全服務,并支持分離式存儲架構,如NVMe over Fabrics和KV Cache卸載。
(2)縱向擴展網絡:第一代UALoE fabric,可將72張GPU連成像統一GPU資源池那樣運行,提供260TB/s帶寬(上一代的3倍),建立31TB HBM4統一內存,具備高可靠性與高可用性。
(3)橫向擴展網絡:第二代Pensando “Vulcano” AI NIC,800G,PCIe 6.0、UAI,每顆GPU最多可配3張AI NIC,從而提供最高2.4Tbps的總帶寬。
![]()
1、Salina DPU:為智能體卸載基礎設施任務
在前端網絡中,DPU影響到基礎設施能同時運行多少智能體、智能體記憶能維持多久,以及整個基礎設施能以多高的效率擴展。
Salina DPU的性能是英偉達BlueField 3的1.4倍。其NVMe over Fabrics能力和緩存管理卸載,可讓存儲在物理上解耦,同時在GPU看來仍是一個共享資源池,還能在保持安全性與租戶隔離的同時,處理KV Cache上下文的檢索與放置。
![]()
這樣既能降低網絡時延,也能釋放CPU周期,讓CPU把更多資源用于提高智能體AI密度。
AMD的一家超大規模客戶通過采用DPU,在每臺服務器上釋放了22個CPU核心,顯著提高基礎設施性能。
2、UALoE:開放的縱向擴展架構
UALoE是一種開放、基于以太網的縱向擴展架構,注重可靠性、可用性和可維護性(RAS),旨在讓鏈路中斷、交換機故障或丟包等問題不至于迫使任務整體重啟,也不必付出昂貴的檢查點恢復代價。其還在端點執行在線加密,以支持機密計算,并針對不同的故障場景進行妥善處理。
Fabric Manager是UALoE背后的軟件定義智能系統,為零接觸部署、監控和全生命周期管理提供統一控制界面,能提供細粒度可觀測性與遙測數據,展示網絡健康狀況和性能,借助內置RAS能力恢復故障,并在潛在問題影響工作負載之前發出提示。
其虛擬POD機制可將一套72-GPU系統劃分為多個虛擬POD,在每個vPOD內建立相應的隔離、韌性與可靠性,進一步提高系統級可用性。
3、Vulcano 800G AI NIC:每GPU帶寬提升50%
在橫向擴展網絡中,Vulcano支持智能負載均衡、硬件擁塞管理,以及快速丟包檢測與恢復,使GPU能夠最大限度利用網絡帶寬,同時降低時延和抖動。
這些能力結合起來,每GPU橫向擴展帶寬可提升多達50%,將大語言模型訓練速度提升13%,通過多平面網絡和智能數據包分發可將網絡成本降低33%。
![]()
五、本地AI:把3000億參數模型搬到桌面
本地模型正以驚人的性能增速演進。過去需要超過1000億參數模型才能達到的性能,如今正在下沉到約90億參數的模型。
如今,90億參數級模型能裝進一臺主流AI PC,比如配備足夠內存的Ryzen AI 400,就能支持最高240億參數的模型。
![]()
之前在CES上發布的Ryzen AI Halo開發者平臺,即插即用,擁有128GB統一內存,最高可運行約2000億參數的模型,也能構建多智能體工作流。
![]()
ROCm軟件棧能橫跨AMD不同硬件平臺運行。開發者可在本地完成大量開發工作,比如先在Ryzen AI Halo上運行模型、進行微調和開發功能,再使用同一套軟件,無縫遷移到性能更強的數據中心產品。
![]()
AMD正在全面深化與全球最大開源AI社區Hugging Face的合作,目標是讓開發者能夠無縫調用Hugging Face模型,并在AMD平臺上輕松發揮其能力。
每臺Ryzen AI Halo將附贈一年Hugging Face Pro訂閱,鼓勵開發者充分利用這一生態。
不久前AMD還在Computex上介紹了新一代產品,代號“Gorgon Halo”,對應新一代Ryzen AI Max PRO 400系列,把統一內存支持從128GB提高到192GB,將本地可運行模型的上限從約2000億個參數提高到約3000億個參數。
![]()
AMD已形成廣泛的個人AI系統生態,形態包括筆記本電腦、工作站、小型臺式機和開發者平臺等。
六、物理AI:推出X100系列處理器,掏出機器人開發全家桶
AMD嵌入式業務在物理AI領域擁有很長的歷史。其業務部門很大一部分來自AMD對賽靈思的收購。賽靈思進入機器人領域已超過20年。
![]()
物理AI的核心可以概括為感知、理解、行動。而FPGA在這三個環節都有優勢。
![]()
面向物理AI和機器人領域,AMD發布Ryzen AI Embedded X100系列處理器、Kira AI機器人開發者平臺、Kria AI系統模塊(SOM)、Kria AI機器人開發者平臺,以及AMD機器人合作伙伴網絡。
(1)Ryzen AI Embedded X100系列處理器:16核“Zen 5” CPU,具備獨顯級能力的RDNA 3.5 iGPU,XDNA 2 NPU(特別適合低功耗、始終在線的推理)。
![]()
(2)Kria AI系統模塊(SOM):一塊預先完成高速接口和基礎計算模塊設計的模塊,底部配有一組連接器,可插入客戶設計的載板,幫助產品快速進入市場。
![]()
經測試,與英偉達Jetson AGX Thor對比,Kira AI平臺可實現3.4倍的實時控制性能、2.3倍的并發智能體數量、1.6倍的CPU容量。
![]()
(3)Kria AI機器人開發者平臺:計劃今年第四季度出貨,將搭載Ryzen AI Embedded X100 SOM和一塊參考載板結合。參考載板上配有AMD Spartan UltraScale+ FPGA,用于傳感器聚合和傳感器融合。
![]()
設備背面提供常見的以太網、USB和顯示輸出等接口。前面板專為機器人設計,用于接入時間敏感網絡、攝像頭和各類傳感器。開發者可在幾天內完成從概念到原型的過程。
![]()
AMD將開放載板的原理圖、物料清單(BOM)以及載板上FPGA的RTL設計,使客戶能根據具體應用修改設計,快速進入市場。
開發者可在云端使用AMD Instinct GPU訓練基礎機器人模型,再使用同一軟件棧,把模型部署到Ryzen AI Embedded X100處理器和Kria AI機器人開發套件上。
AMD正在構建一套從訓練到部署的軟件棧,包括機器人核心SDK、更廣泛的物理AI SDK以及未來持續擴展的軟件開發套件。
![]()
其機器人合作伙伴網絡也日益壯大,包括模型、中間件、傳感器、應用與系統、物理仿真合作伙伴,以及負責測試、驗證和產業協作的相關組織。
![]()
七、軟件:發布ROCm.ai軟件棧,讓智能體加速AI開發
AMD一直在擴展ROCm生態及其能力,目前ROCm已支持Hugging Face上超過300萬個模型,能在新開源模型發布首日就提供支持。
過去一年,外部開發者對ROCm開源軟件棧的貢獻增長了10倍以上。ROCm的發布節奏已從過去每4-6個月一次,加快到大約每6周一次,顯著提高了新功能交付速度、性能以及開箱即用體驗。
AMD與多家開源項目緊密合作,甚至直接提供硬件,讓Hugging Face、PyTorch、vLLM、SGLang等項目運行每日持續集成(CI)測試。
![]()
AMD的軟件戰略的核心支柱包括:開源、高層抽象、AI輔助、ROCm Everywhere。
AI輔助正在大規模進入開發流程,已顯著提高AMD的生產效率。例如,在MI450/Helios相關工作中,AMD已支持最新發布的Kimi等模型。智能體工作流可幫助團隊快速完成移植和優化。
今日,AMD推出一款AI驅動的平臺ROCm.ai軟件棧,包括:
- Skills層:面向Claude Code、Codex、Cursor等編程智能體。
- HyperLoom層:端到端AI工作負載優化。
- 框架集成層:PyTorch、vLLM、SGLang、JAX等。
- 核心SDK:庫、編譯器和工具、運行時。
![]()
該軟件棧將于今年8月可用。
其中,HyperLoom是一套智能體工作流,能運行并分析模型,對模型進行性能剖析,定位通信、GEMM或其他內核中的瓶頸,發現可以融合的相鄰內核,自動執行優化,不斷重新測試并迭代。
例如,HyperLoom可以調優GEMM、融合內核、改變內存訪問模式,或者采用memory swizzle改善數據局部性。經過反復迭代后,它會輸出相應的性能提升結果。
會上播放了ROCm.ai工作流演示視頻:使用Claude Code,輸入“用HyperLoom優化MiniMax M3推理”,系統首先用最新配方運行模型,得到性能基線,隨后進行性能剖析,發現某個GEMM需要調優,完成調優后又發現需要生成帶memory swizzle的內核,于是使用Triton自動生成。
只經過一次點擊,它就將性能提升了38.3%。
![]()
AMD在過去一年持續把這類技術應用到前沿開放模型上,推理性能提高到ROCm 7初期的3.3倍,訓練性能提高到約2.4倍。
![]()
![]()
另一個演示是用Codex在AMD Helios上運行擁有1.6萬億參數的DeepSeek-V4 Pro模型:Codex自動配置環境、啟動模型,并確認模型已經運行,隨后用戶要求它“寫一首關于Advancing AI的詩”,模型便生成相應內容。
![]()
AMD能在新模型上實現Day-0支持,重要原因之一正是智能體的優化速度極快,它們能夠日復一日幫助團隊適配和優化數以千計的模型,速度超過僅依賴人工工程師的方式。
以DeepSeek-V4 Pro為例,從4月獲得Day-0支持到現在,在相同硬件、相同模型上,AMD僅通過軟件優化,就在大約3個月內取得了5.3倍的性能提升。
![]()
在HPC方面,部分競爭平臺已弱化硬件原生FP64,更多依賴模擬,因此速度會慢很多。AMD的優勢之一是Chiplet架構,可根據目標產品靈活組合FP4與FP64計算能力,AMD Instinct MI430X就采取這種方式。
![]()
MI430X能夠提供高達288TFLOPS的硬件級FP64科學計算性能。與英偉達Vera Rubin相比,MI430X可實現8.7倍的FP64算力、多50%的HBM4容量、多6%的HBM4帶寬。
![]()
結語:將完整系統級設計交給客戶,AMD邁出重要一步
過去數年,AMD一直堅持四項原則:提供領先的性能與總擁有成本,提升遷移便利性,全軟件棧開源,以客戶為中心。
其AI合作伙伴生態正愈發繁榮,包括越來越多的云服務提供商(CSP)、新型云服務商(NeoCloud)、OEM、ODM,以及本地部署合作伙伴。
今日發布的Helios,對AMD而言是重要的一大步,這意味著AMD通過在協同設計、協同工程的機架中提供全部關鍵組件,讓客戶得以獲得完整的AMD端到端方案價值。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.