英偉達CMX與NAND的新故事 | 筆記

AI正在重新劃定內存與存儲的邊界。

最先提出HBF（高帶寬閃存）概念的NAND廠商閃迪（Sandisk）市值近一年膨脹了40多倍，韓國SSD主控廠商FADU“僅僅”漲了9倍，正在努力創造屬于自己的AI敘事。

無論是HBF還是SSD，它們背后真正被重新定價的，都是NAND。正如HBM的價值最終建立在DRAM之上，未來AI存儲體系中，NAND也正在獲得一種新的戰略地位。

FADU堅定地跟著英偉達走，相信年初黃仁勛在GTC上提出的CMX（上下文內存擴展）架構，將推動SSD從數據倉庫的角色轉向深度參與計算的“擴展內存”。如果這一判斷成立，那么，不僅SSD的直接需求將大幅增長，過去數十年來指導SSD設計的核心指標，都需要被重新審視；至少，SSD的設計哲學將開始根據實際工作負載而分化。

英偉達提出CMX，與閃迪提出HBF相似，都是為了解決智能體時代越來越膨脹的上下文緩存。這些上下文以KV Cache（鍵值緩存）的形式存在，否則，如果每輪對話都重新計算，不僅會增加響應延遲，更會浪費昂貴的GPU算力。根據訪問頻繁程度與緩存大小的權衡，這些KV Cache需要被安置到算力基礎設施的不同的層級上。

隨著智能體持續運行，KV Cache已經從會話級別的臨時產物，逐漸變成值得長期保持可訪問性的持久資產。到了Vera Rubin NVL72時代，它必須找到一個足夠便宜、足夠大、又足夠快的位置。而現有HBM僅存放模型權重就已經十分緊張，網絡存儲的延遲又難以滿足推理需求，這便給新的內存層級留下了空間。

2026/04/15 完整閱讀 >

圍繞這個問題，產業界正在形成兩條路線。KAIST（韓國科學技術院）的金正浩教授相信HBF路線，認為英偉達提出CMX，只是因為“沒有牙齒只能嚼口香糖”，最終接受HBF“只是時間問題”。而FADU首席技術官Nam Yi-hyun則認為，NAND在高溫環境下及其固有的可靠性等問題，使HBF的商業化前景仍存在較大不確定性；更重要的是，如果英偉達不推動，新的存儲介質很難形成生態。

今年以來，在上下文領域，英偉達正迅速形成自己的AI原生技術棧。從命名形式上看，CMX是繼它的CUDA-X、Spectrum-X后又一個品牌體系。年初，在CES上它還是ICMS（Inference Context Memory Storage），2個月后的GTC上就改名為CMX（Context Memory eXtension）。在英偉達生態內更大的架構是STX（Storage Technology eXtension），將CMX等所有上下文技術都囊括在內。

通過CMX，KV Cache變成整個Pod共享資產。首先，GPU節點上的主機BlueField-4，將存儲虛擬化為本地NVMe（非易失性存儲高速接口協議）設備；但實際數據位于一個獨立的端點上，該端點擁有自己的BlueField-4和SSD池。當GPU發出讀請求時，主機BlueField-4將其轉換為RDMA（遠程直接內存訪問）請求，并通過網絡結構發送出去。端點BlueField-4接收該請求，從本地NVMe SSD中讀取數據，然后將數據傳回。結果通過PCIe（高速外設互連總線）點對點直接送入GPU HBM。主機CPU和DRAM全程不接觸此傳輸。

這意味著，CMX同時實現了三個目標：通過Spectrum-X實現接近DRAM的延遲；提供每GPU太字節級別的Pod級存儲；以及跨所有GPU的共享訪問。但這也意味著，適配CMX的SSD，與過去的企業級SSD，在設計哲學上已經完全不同。

長上下文和智能體工作負載下，每塊GPU可能產生數十TB的KV Cache，容量需要隨GPU數量線性擴展，同時受到機架功耗和空間的嚴格約束。在解碼階段，KV Cache主要以讀取為主，僅在預填充和緩存更新時進行寫入，其工作負載與傳統數據庫或企業應用截然不同。在大規模CMX部署中，SSD本身將成為數據中心的重要耗能單元，系統級的Token/W（每瓦生成Token數）也將直接受到存儲層效率的影響。

過去，企業級SSD服務的是文件系統和數據庫，其核心指標是IOPS（每秒輸入輸出操作數），追求海量4KB隨機讀寫能力，強調單位TB價格。而CMX中的KV Cache，則表現出完全不同的特征：數據塊巨大，以順序讀取為主，追求的是GB/s（每秒搬運多少數據），以及GB/s/W價格。

這正是FADU等主控廠商嗅到的新機會。