2025年圣誕節(jié)的凌晨,硅谷炸了。
英偉達(dá)宣布以200億美元拿下AI推理芯片公司Groq的核心技術(shù)與團(tuán)隊(duì)。
三個(gè)月前Groq的估值還只有69億美元,黃仁勛直接給出了將近三倍的溢價(jià)。
![]()
這不是一次傳統(tǒng)收購,Groq仍然作為獨(dú)立公司運(yùn)營,但Groq的創(chuàng)始人Jonathan Ross帶著幾乎所有核心成員集體加盟英偉達(dá)。
伯恩斯坦的分析師一針見血:本質(zhì)是英偉達(dá)用金錢換時(shí)間,把最危險(xiǎn)的顛覆者變成自己人。
![]()
![]()
Groq這家公司2016年成立,創(chuàng)始人Jonathan Ross的經(jīng)歷相當(dāng)傳奇——高中輟學(xué),沒正經(jīng)讀完大學(xué),卻在谷歌設(shè)計(jì)出了第一代TPU芯片的核心架構(gòu)。
TPU是谷歌用來跑AI的定制芯片,現(xiàn)在被不少公司當(dāng)作英偉達(dá)GPU的替代方案。
![]()
Groq早期推出的產(chǎn)品叫TSP(張量流處理器),出發(fā)點(diǎn)跟TPU類似——在GPU之外專門做一個(gè)更專一、更高效的推理硬件。
![]()
Groq當(dāng)時(shí)也沒想到,自己搗鼓出來的這個(gè)架構(gòu),在多年后的生成式AI大爆發(fā)中突然變得格外吃香。
![]()
Groq隨后把TSP重新包裝成LPU(語言處理單元)推向市場。
這兩年谷歌TPU已經(jīng)在搶英偉達(dá)的飯碗了,Meta被曝考慮大規(guī)模采用谷歌TPU,消息一出英偉達(dá)股價(jià)單日暴跌8%。
![]()
加上微軟、亞馬遜都在搞自研芯片,黃仁勛坐不住了,快速出手把Groq收編。
有投資人評價(jià)說,黃仁勛這200億美元買的其實(shí)就是Jonathan Ross這個(gè)人,押注未來可能賺回三倍的錢。
![]()
![]()
直接看圖。
LPU芯片的結(jié)構(gòu)很有意思,以中間的VXM為中軸上下對稱分布。
VXM是向量計(jì)算單元,負(fù)責(zé)激活函數(shù)、點(diǎn)運(yùn)算等;上下兩側(cè)的MXM是張量單元,負(fù)責(zé)矩陣運(yùn)算——這部分占了整個(gè)計(jì)算量的93%。
這兩個(gè)核心電路分別對應(yīng)英偉達(dá)GPU里的CUDA Core和Tensor Core。
![]()
中間的SXM是數(shù)據(jù)移動引擎,負(fù)責(zé)調(diào)度數(shù)據(jù)流轉(zhuǎn)。
但LPU最特別的地方在于它的存儲設(shè)計(jì)——整個(gè)芯片沒有緩存這個(gè)概念。
中間那一塊叫MEM的存儲單元,用的也是SRAM技術(shù),但扮演的是主內(nèi)存的角色。
![]()
單顆Groq 3 LPU集成了500MB的片上SRAM,一個(gè)機(jī)架256顆LPU加起來就是128GB純SRAM。
運(yùn)行時(shí)直接把權(quán)重等數(shù)據(jù)加載到MEM里,根本不用像GPU那樣頻繁去片外HBM搬數(shù)據(jù)。
這就大大降低了“內(nèi)存墻”帶來的數(shù)據(jù)搬運(yùn)開銷。
![]()
SRAM的讀寫延遲極低,單顆芯片帶寬能達(dá)到150TB/s,而英偉達(dá)Blackwell GPU用的HBM4帶寬只有8TB/s——差距接近20倍。
在主流大語言模型上,LPU推理速度能達(dá)到H100的5到18倍,首Token響應(yīng)時(shí)間僅0.2秒。
硬件設(shè)計(jì)只是基礎(chǔ),真正讓LPU跟其他芯片拉開差距的是它的軟件哲學(xué)。
![]()
LPU運(yùn)行前先用編譯器把所有計(jì)算任務(wù)排成一個(gè)靜態(tài)調(diào)度,形成固定的計(jì)算圖。
每條指令、每個(gè)數(shù)據(jù)流什么時(shí)候到、走哪條路,全是提前算好的,不存在臨時(shí)調(diào)度。
![]()
如果說GPU像一條隨時(shí)調(diào)整節(jié)奏的汽車產(chǎn)線,那LPU就是固定好每顆螺絲、每個(gè)部件的具體裝配時(shí)間,一氣呵成。
這種“確定性執(zhí)行”帶來的好處是延遲極其穩(wěn)定,不會像GPU那樣時(shí)快時(shí)慢。
![]()
GPU在推理時(shí)有一個(gè)先天問題:它自己不主動計(jì)算,得靠CPU給它發(fā)指令(kernel)。
CPU頻繁給GPU“派活”,這個(gè)過程本身就帶來巨大開銷。
每接到一個(gè)任務(wù),GPU內(nèi)部還存在動態(tài)調(diào)度,任務(wù)分給各個(gè)SM(流式多處理器),出現(xiàn)分支發(fā)散懲罰——這些都會拖慢速度。
![]()
LPU的設(shè)計(jì)就是為了解決這個(gè)問題——用靜態(tài)調(diào)度干掉動態(tài)調(diào)度的開銷,用片上SRAM干掉數(shù)據(jù)搬運(yùn)的延遲。
但LPU也不是萬能的。
SRAM雖然快,但成本高、容量小,沒法像HBM那樣動不動堆幾百GB。
![]()
所以LPU不能獨(dú)立運(yùn)行大模型,必須和GPU配合——GPU負(fù)責(zé)并行計(jì)算和大內(nèi)存需求,LPU負(fù)責(zé)低延遲的前向傳播。
在GTC 2026上,英偉達(dá)正式發(fā)布了Groq 3 LPU芯片和搭載256顆LPU的LPX機(jī)架,黃仁勛說GPU加LPU協(xié)同后,推理吞吐量與功耗比能提升35倍。
![]()
分析師預(yù)測2026到2027年LPU總出貨量將達(dá)400萬到500萬顆。
大洋彼岸的中國,北京芯片公司清微智能在2025年12月完成了超20億元融資,走的也是類似的可重構(gòu)數(shù)據(jù)流技術(shù)路線。
中美兩邊的資本,幾乎同時(shí)把重注押在了同一個(gè)方向上。
![]()
這筆交易之后還出了個(gè)插曲——2026年3月,兩名美國民主黨參議員聯(lián)名致信黃仁勛,質(zhì)疑英偉達(dá)通過“技術(shù)授權(quán)+人才吸納”的方式規(guī)避反壟斷審查。
![]()
聯(lián)邦貿(mào)易委員會也在跟進(jìn)調(diào)查這類“變相收購”。
用200億美元把最危險(xiǎn)的對手變成自己人,還繞開了監(jiān)管——這步棋走得精,但后續(xù)的麻煩恐怕才剛剛開始。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.