河南
快科技7月26日消息，受存儲芯片價格高企和供應短缺影響，英偉達將大幅削減Vera Rubin NVL72機架級AI系統的內存配置。
從具體數據來看，機架中的SOCAMM內存模組容量從192GB直接減半到96GB，Vera CPU配套的內存總量從54-55TB砍到28TB，CPU機架部分同樣改用96GB SOCAMM。
唯一沒動的是GPU側的HBM4顯存，每個機架依然保持20.7TB。
英偉達這么做，直接原因是LPDDR5X市場供應緊張，受內存漲價影響，一套Rubin NVL72機架的成本可能高達910萬美元，早先780萬美元的估算已經過時，而HBM4的價格到2027年可能漲到每GB 53美元。
如果不做調整，內存成本將占到VR200整機物料成本的29%、約210萬美元，遠超20%的理想水平。
而配置砍掉一半之后，效果立竿見影：VR200的LPDDR5X成本從早先估算的120萬美元降到58.6萬美元，如果進一步壓縮到原來的四分之一，甚至可以壓到29.3萬美元。
要知道，英偉達此前靠著提前簽下的存儲長期協議，已經是這波漲價潮里最能扛的公司，如今連它都要動刀，足見存儲市場的壓力有多大。
需要說明的是，Vera Rubin NVL72本身就是目前最強悍的AI系統之一，今年1月剛剛發布。根據實測數據，在處理MoE大模型負載時，Blackwell平臺每兆瓦功耗的吞吐量為8萬token/s，Vera Rubin NVL72則達到80萬token/s，整整提升10倍。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
