業(yè)界震動：英偉達(dá)備戰(zhàn)巨頭圍剿，砸200億推LPU

閱世如閱卷，下筆有錦書

在這里，聽見中國走向世界的號角贊

很多人只聽過英偉達(dá)的 GPU，卻不知道它還有一款專門服務(wù) AI 推理的 LPU 芯片。

2025 年年底，業(yè)內(nèi)傳出英偉達(dá)用 200 億美元收購了 Grok 公司的核心資產(chǎn) —— 注意，這可不是馬斯克旗下的 ChatGPT 相關(guān)團(tuán)隊。

這支隊伍 2016 年就已成立，創(chuàng)始人來自谷歌 TPU 部門，堪稱 AI 硬件領(lǐng)域的黃埔軍校。Grok 當(dāng)年推出的張量流處理器（TSP）架構(gòu)，最初的定位是打出獨立于 GPU 的專精推理硬件。

但生成式 AI 爆發(fā)后，這套架構(gòu)的優(yōu)勢忽然顯現(xiàn)，遠(yuǎn)勝 GPU 乃至 TPU，英偉達(dá)將其重新包裝為 LPU 概念推出。

這兩年多家公司自研推理芯片，給英偉達(dá)帶來不小壓力，公司快速完成對 Grok 的收購，僅用三個月就推出了英偉達(dá) Grack3 LPU 芯片，以及配套的 LPX 機(jī)架級產(chǎn)品。

LPU 的硬件設(shè)計到底有啥不一樣？先看芯片結(jié)構(gòu)：兩側(cè)是高速互聯(lián)接口 CtoC，核心區(qū)域以中間的 VXM 為中軸上下對稱分布。

VXM 是向量計算單元，負(fù)責(zé)標(biāo)量運算等核心任務(wù)；MXM 是張量單元，承擔(dān) 90% 以上的矩陣運算 —— 這兩者對應(yīng) GPU 的 CUDA 核心和 TensorCore。

還有 SSM 數(shù)據(jù)移動引擎，以及重頭的 MEM 存儲單元。和普通芯片不同，LPU 根本沒有緩存設(shè)計，MEM 直接用 SRAM 充當(dāng)主內(nèi)存。

單顆芯片的 SRAM 容量就達(dá) 500 兆，整套機(jī)架產(chǎn)品的 SRAM 總量更是達(dá)到 128G，這種配置相當(dāng)可觀。

運行時，LPU 直接把權(quán)重等數(shù)據(jù)加載到 MEM 中，最大程度降低內(nèi)存調(diào)用開銷，大幅提升能耗優(yōu)勢。

外加 SRAM 讀寫延遲極低，單芯片帶寬可達(dá) 150TB/s，對比英偉達(dá)最新 HBM4 的 22TB/s，差距十分明顯。

硬件只是基礎(chǔ)，真正讓 LPU 拉開和其他芯片差距的，是它的軟件哲學(xué)。

如果把 GPU 比作靈活調(diào)整流水線的汽車產(chǎn)線，那 LPU 就是提前固定好每一個螺絲的安裝節(jié)點，全程一氣呵成。這種設(shè)計的核心目的是降低推理延遲。

對比 GPU 的推理流程：GPU 本身不會主動計算，需要 CPU 下發(fā)內(nèi)核指令，且會反復(fù)下發(fā)，帶來巨大開銷。

同時 GPU 內(nèi)部存在動態(tài)調(diào)度，任務(wù)分給 SM 時會出現(xiàn)分支發(fā)散懲罰，外加 HBM 加多緩存的設(shè)計，容易出現(xiàn)緩存未命中，數(shù)據(jù)讀取等待拉低效率。

LPU 則完全沒有這些問題：硬件搭載大容量 SRAM 駐留數(shù)據(jù)，軟件采用靜態(tài)映射策略，計算過程延遲極低且確定性極強(qiáng)。

不僅提升了 Token 生成速度，還消除了速度波動，沒有復(fù)雜緩存層級、分支發(fā)散懲罰和運行時征用，整個流程完全可預(yù)測。多顆 LPU 互聯(lián)時，還可通過同步協(xié)議對齊施工節(jié)奏。

不少人會好奇，LPU 是不是要取代 GPU？答案是否定的，二者是互補(bǔ)關(guān)系。

GPU 的優(yōu)勢是高度并行計算能力和大容量 HBM，適合處理 Prefill 預(yù)處理和 Decode 階段的注意力計算，這些任務(wù)需要大內(nèi)存存儲 KV Cache。

而 LPU 的優(yōu)勢是極低延遲和極致帶寬，專注承擔(dān) Decode 階段的前向傳播過程，通過存儲權(quán)重循環(huán)生成 Token，直到全部完成。

根據(jù)英偉達(dá)公開數(shù)據(jù)，這種異構(gòu)協(xié)同設(shè)計下，單 GPU 對應(yīng) Token 生成量提升至少 35 倍，收益十分顯著。如果搭配推測解碼技術(shù)，LPU 還可承擔(dān)小模型草稿生成環(huán)節(jié)，進(jìn)一步提升整體效率。

如今多家廠商都推出了自研推理芯片，比如 OpenAI、谷歌、微軟、Meta、亞馬遜等。

和英偉達(dá)的 AFD 策略（解耦注意力和前向傳播）不同，其他廠商大多采用平替策略，直接用自研芯片替代英偉達(dá)產(chǎn)品。

這類芯片的技術(shù)門檻并不高，OpenAI 僅用 9 個月就完成了 AI 服務(wù)芯片的流片。

谷歌、微軟、亞馬遜等云服務(wù)廠商的專用推理芯片還在持續(xù)進(jìn)化，承擔(dān)的負(fù)載越來越大，市場對英偉達(dá)的依賴度正在降低。英偉達(dá)收購 Grok 只是填補(bǔ)了自身的短板，并未真正守住 AI 算力的江山。

總的來說，英偉達(dá)的 LPU 補(bǔ)齊了推理賽道的業(yè)務(wù)空白，但想要保住 AI 算力龍頭的地位，依舊要直面眾多玩家的沖擊，未來的 AI 硬件賽道依舊充滿變數(shù)。