不當(dāng)中國英偉達(dá)，中昊芯英要做“AI界的X86”

“GPU三十年的仗，TPU十年就想打完？

2026年，中國AI產(chǎn)業(yè)最焦慮的事情，可能不是模型能力不夠——智譜5.2、DeepSeek V4、MiniMAX輪番上場，模型越來越強(qiáng)。

真正的焦慮是：算力快用不起了。

一個AI智能體處理一次用戶請求，輸入的上下文Token量，可能是輸出Token的上萬倍。你只問了一句“幫我總結(jié)這份財報”，后臺打包發(fā)送的卻是幾十萬字的完整對話歷史。

有開發(fā)者私下吐槽：“本來指望AI幫我省錢，結(jié)果用AI本身變成了一筆大開支。”

更嚴(yán)峻的是，當(dāng)AI產(chǎn)業(yè)從“算力時租”轉(zhuǎn)向“詞元計價”，算力成本不再是邊際遞減，而是開始指數(shù)膨脹。

當(dāng)算力成本開始反噬AI商業(yè)化，芯片行業(yè)給出了一套截然不同的解題思路——

通用GPU繼續(xù)堆核、堆頻率、堆制程；而一群“TPU信徒”則在講另一個故事：專用芯片，才是算力的終極解藥。

2026年6月30日，國內(nèi)最早押注TPU路線的中昊芯英，正式發(fā)布了第二代全自研TPU芯片“須臾”和泰則2.0智算平臺。896TFLOPS單卡算力、7.168PFLOPS單機(jī)算力性能、百萬Token成本腰斬……

這些數(shù)字背后，是一場關(guān)于AI算力底層邏輯的博弈。

算力“通脹”

AI商業(yè)化的真實成本有多高？

2023年大模型元年，行業(yè)還在比拼“誰能訓(xùn)出更大的模型”。到了2026年，問題變成了“誰用得起”。

這不是玩笑。

采訪中，中昊芯英創(chuàng)始人兼CEO楊龔軼凡算了一筆賬：“當(dāng)下絕大多數(shù)AI軟件服務(wù)商毛利率不足40%，算力硬件開支是核心成本項。如果我們能把單位算力成本減半，客戶毛利率可以從40%提升至70%。反之，如果算力成本居高不下，很多AI業(yè)務(wù)會陷入虧損、商業(yè)模式無法閉環(huán)?！?/p>

智能體場景讓這個問題雪上加霜。

傳統(tǒng)聊天機(jī)器人，用戶輸入多少、輸出多少，Token消耗相對可控。但智能體不同——它每一次調(diào)用API，都會把全部歷史對話上下文打包傳輸。用戶只問了20個字的簡單問題，API請求的Token量可能高達(dá)二十萬。

輸入輸出的懸殊比例，讓Token賬單像滾雪球一樣膨脹。

早期行業(yè)鼓勵無限制調(diào)用，大模型廠商甚至補(bǔ)貼用戶使用。但進(jìn)入2026年，無論大廠還是中小企業(yè)都開始嚴(yán)格管控Token用量。算力成本，正在從“技術(shù)問題”變成“生存問題”。

更長期的壓力來自產(chǎn)業(yè)結(jié)構(gòu)的轉(zhuǎn)變。

當(dāng)AI從研發(fā)階段進(jìn)入規(guī)?；虡I(yè)部署階段，企業(yè)對算力的訴求正在從“靈活性優(yōu)先”轉(zhuǎn)向“成本優(yōu)先”。

而這，恰恰給TPU這類專用架構(gòu)打開了巨大的成長空間。

路線之爭

為什么有人不做GPU？

理解TPU的崛起，首先要理解一個看似反直覺的事實：GPU發(fā)展了三十多年，它的最大優(yōu)勢正在變成最大劣勢。

楊龔軼凡在采訪中給出了一個犀利判斷：“GPU技術(shù)至今已經(jīng)發(fā)展三十余年，英偉達(dá)、AMD每年合計投入數(shù)十億美元研發(fā)。經(jīng)過長期迭代，GPU相關(guān)硬件架構(gòu)、軟件棧的優(yōu)化空間基本已經(jīng)被挖掘殆盡，后續(xù)升級基本只依托先進(jìn)制程和新型存儲做微調(diào)，底層核心架構(gòu)很難再做顛覆性革新?！?/p>

與此同時，完整CUDA軟件生態(tài)已經(jīng)成為GPU廠商最堅固的護(hù)城河——也是全行業(yè)切換技術(shù)路線最大的門檻。

這意味著什么？

意味著在GPU這條賽道上，后來者幾乎沒有彎道超車的可能。楊龔軼凡直言：“國內(nèi)GPU廠商底層軟件框架最終會走向兼容互通，但想挑戰(zhàn)英偉達(dá)的地位，幾乎不可能?！?/p>

正是在這個判斷下，中昊芯英2018年創(chuàng)業(yè)之初就押注了TPU。

“當(dāng)年我們選擇TPU賽道，本質(zhì)是做了次行業(yè)預(yù)判押注：我們篤定Transformer架構(gòu)、大模型深度學(xué)習(xí)會成為人工智能長期發(fā)展核心主線，AGI商業(yè)化落地一定會成為行業(yè)主流趨勢?！?/p>

這個預(yù)判在2023到2024年得到了驗證。

TPU的優(yōu)勢是什么？

第一，架構(gòu)年輕，創(chuàng)新空間大。

相比于GPU三十年的成熟期，TPU整體研發(fā)歷史不足十年。谷歌2015到2016年才啟動初代TPU研發(fā)，Groq核心團(tuán)隊也脫胎于谷歌TPU體系。整個賽道仍存在大量待挖掘的技術(shù)空白。

楊龔軼凡認(rèn)為，TPU至少還有5年的架構(gòu)創(chuàng)新窗口期：“當(dāng)前TPU還是在一個早期的技術(shù)路線，還有很多創(chuàng)新點等待我們?nèi)ラ_發(fā)。硬件架構(gòu)高度依賴產(chǎn)品流片、量產(chǎn)迭代來驗證創(chuàng)新思路，每一代芯片都可以新增專屬硬件特性，持續(xù)拉升算力與能效?！?/p>

中昊芯英AI大模型軟硬件一體化方案架構(gòu)圖

第二，面向大模型的“天生優(yōu)勢”。

TPU架構(gòu)天然面向大模型高并發(fā)張量計算做深度定制優(yōu)化。楊龔軼凡給出的數(shù)據(jù)是：在同等制程、同等硬件成本前提下，運行主流深度學(xué)習(xí)模型時，TPU綜合性能可達(dá)通用GPU的3到5倍。

如果再結(jié)合針對特定模型網(wǎng)絡(luò)的專屬算子調(diào)優(yōu)，性價比優(yōu)勢會進(jìn)一步放大。

第三，PD分離帶來的“殺手锏”場景。

這是采訪中被反復(fù)提及的核心技術(shù)概念。

Prefill-Decode分離，簡單說就是把推理場景中的“預(yù)填充”和“解碼”兩個計算環(huán)節(jié)拆開，用不同的專用硬件分別承載。兩者的計算邏輯差異極大，分開優(yōu)化后整體性價比可以實現(xiàn)大幅提升。

楊龔軼凡指出：“這是GPU架構(gòu)很難靈活實現(xiàn)的設(shè)計思路。通用GPU兼顧全場景通用能力，在這種細(xì)分專業(yè)化場景下優(yōu)勢會大幅縮水?！?/p>

事實上，全球行業(yè)趨勢已經(jīng)佐證了這個判斷：谷歌持續(xù)大規(guī)模擴(kuò)產(chǎn)自家TPU，大量海外企業(yè)批量采購TPU算力。專用張量計算芯片的市場需求，正在以遠(yuǎn)超行業(yè)預(yù)期的速度增長。

聊一聊Token經(jīng)濟(jì)學(xué)

路線之爭說得再熱鬧，最終都要回到一個核心問題：

客戶到底省不省錢？

楊龔軼凡的回應(yīng)非常干脆：“對AI服務(wù)商、政企客戶而言，單位百萬Token算力性價比永遠(yuǎn)是第一決策標(biāo)準(zhǔn)?！?/p>

他甚至重新定義了芯片設(shè)計的優(yōu)先級邏輯。傳統(tǒng)芯片廠商追求PPA平衡——性能、功耗、面積三者精打細(xì)算。但中昊芯英的思路完全不同：“因為TPU架構(gòu)本身天然比通用GPU能耗更低，因此我們PPA核心是平衡性能和芯片面積，功耗并非首要優(yōu)化目標(biāo)。我們最后要實現(xiàn)的是百萬Token成本降到最低?！?/p>

這不再是芯片廠商的思維，這是云服務(wù)商的思維。

那么，中昊芯英交出的成績單如何？

先從硬件指標(biāo)看：

單顆“須臾”芯片混合精度浮點算力達(dá)896TFLOPS，是上一代“剎那”的3倍；8-bit推理算力1792TOPS。單卡顯存和片間互聯(lián)速率均有大幅提升，額定功耗600W，相比性能持平的傳統(tǒng)芯片功耗降低50%。

搭載8顆“須臾”的泰則2.0單機(jī)算力達(dá)7.168PFLOPS，整機(jī)能耗僅為傳統(tǒng)GPU服務(wù)器的80%。在集群層面，單個超節(jié)點可實現(xiàn)2048顆芯片直聯(lián)，并可拓展至萬卡集群。

再看Token成本：

楊龔軼凡表示，在同規(guī)模大模型推理場景下，中昊芯英平臺的百萬Token成本，僅為海外主流GPU方案的35%-50%。

一代到二代，百萬Token推理性價比實現(xiàn)了“兩倍以上提升”。而遠(yuǎn)期目標(biāo)是“降到原有十分之一”。

這并非簡單的價格戰(zhàn)。成本下降來自三個層面的架構(gòu)創(chuàng)新：

計算層面，二代芯片重構(gòu)了全鏈路計算流，消除了傳統(tǒng)矩陣乘加運算中的數(shù)據(jù)依賴空泡，單計算單元硬件利用率大幅提升。脈動陣列的數(shù)據(jù)流調(diào)度經(jīng)過深度優(yōu)化，單路計算性能直接提升20%到30%。

存儲層面，TPU片內(nèi)存儲容量對比通用GPU有量級優(yōu)勢，“差距接近數(shù)倍”。超大容量片上內(nèi)存大幅提升KV Cache緩存命中率，省去大量重復(fù)矩陣運算，高效釋放存儲帶寬。

通信層面，自研低延遲高并行片間通訊協(xié)議，對比一代傳輸效率顯著提升，綜合算力實現(xiàn)三倍增長。

楊龔軼凡算了一筆更大的賬：“如果拿智算中心三年周期內(nèi)的整體能耗開支進(jìn)行核算對比會發(fā)現(xiàn)，當(dāng)前海外知名GPU整機(jī)硬件采購成本占到全生命周期運營總成本近80%，能耗開支占不足20%；我們產(chǎn)品的采購、能耗成本比例大致為 7:3，硬件采購占70%，能耗占30%，能耗支出占相較海外知名GPU本身就有已經(jīng)更有優(yōu)勢。如果我們能把性能提升1.5到2倍，能耗再降低20%到30%，那么我們的市場競爭力會非常明顯?！?/p>

而在大型智算中心集群部署場景中，TPU的優(yōu)勢不止于電費節(jié)省。低功耗意味著同等能耗配額下可以部署更多服務(wù)器，器件發(fā)熱更少、老化故障概率更低，長期運維成本同步下降?！熬C合來看，集群多年運營總成本降幅遠(yuǎn)不止20%?！睏铨忀W凡表示。

從“能用”到“好用”

國產(chǎn)算力的長征才剛剛開始

當(dāng)然，紙上談兵容易，真正落地的坑，中昊芯英一個都沒少踩。

2023年，初代“剎那”芯片流片成功，成為國內(nèi)首枚高性能TPU AI專用算力芯片。但楊龔軼凡回憶，真正的挑戰(zhàn)在流片之后才開始。

最大的難點不是硬件，是軟件生態(tài)。

“硬件批量部署相對簡單，但完整軟件棧、算子適配、工具鏈打磨需要海量自有算力持續(xù)迭代，這是所有國產(chǎn)算力芯片廠商共同的痛點。”楊龔軼凡坦承，“僅用一年半搭建軟件棧，不可能達(dá)到英偉達(dá)二三十年持續(xù)重金投入的生態(tài)成熟度?！?/p>

英偉達(dá)每年數(shù)十億美元持續(xù)投入生態(tài)建設(shè)，這個差距不可能短期彌合。

但中昊芯英的應(yīng)對策略很務(wù)實——不追求全場景覆蓋，而是聚焦國內(nèi)主流大模型深度適配。

PyTorch、vLLM、SGLang等主流開發(fā)框架原生支持，DeepSpeed、Megatron-LM分布式套件完成適配。Qwen全系列、DeepSeek、GLM、MiniMAX等數(shù)十款大語言和多模態(tài)模型已經(jīng)完成深度適配。

楊龔軼凡表示：“我們資源高度聚焦大語言模型賽道。底層主流開源框架全部原生適配，配套標(biāo)準(zhǔn)化Docker鏡像，開發(fā)者拿到鏡像后可直接沿用原有框架代碼，不存在大規(guī)模底層遷移改造成本?！?/p>

更重要的是，中昊芯英明確不走封閉路線。“我們不會復(fù)刻封閉式全套軟件體系。我們堅持全面擁抱開源，兼容全球主流開發(fā)平臺。客戶遷移時我們配套專屬算子優(yōu)化，不僅不會出現(xiàn)性能損耗，反而能提升推理算力表現(xiàn)?！?/p>

目前，中昊芯英的產(chǎn)品已成功部署于深圳聯(lián)通、天津移動、太極股份、江西上饒等運營商、政府機(jī)構(gòu)和科技企業(yè)建設(shè)的多個超大規(guī)模智算中心，并在高校、科研機(jī)構(gòu)的科研計算平臺與教學(xué)環(huán)境中投入使用，輻射金融、傳媒、教育、醫(yī)療等廣泛行業(yè)領(lǐng)域。

中昊芯英產(chǎn)品落地華東地區(qū)千卡集群項目圖

從“芯片可用”到“芯片好用”，再到“算得起”，這可能是所有國產(chǎn)算力芯片廠商未來五年必須跨越的三道門檻。

不做“中國英偉達(dá)”

采訪最后，楊龔軼凡被問到一個宏觀問題：如果站在2028到2030年的視角回看，你希望中昊芯英在國產(chǎn)算力產(chǎn)業(yè)中占據(jù)什么位置？是對標(biāo)“中國英偉達(dá)”，還是走一條差異化的路？

他的回答有些出人意料。

“我們創(chuàng)業(yè)之初就確立了目標(biāo)——不是復(fù)刻英偉達(dá)路線。我們希望把TPU這個架構(gòu)做成AI界的X86，推動TPU成為AI領(lǐng)域的通用底層架構(gòu)。”

這意味著什么？

意味著中昊芯英想要的不只是一家芯片公司的商業(yè)成功，而是定義一個技術(shù)標(biāo)準(zhǔn)。

“未來即便涌現(xiàn)更多TPU、專用算力創(chuàng)業(yè)企業(yè)，我們不會惡性競爭，而是開放協(xié)同、共建TPU軟硬件標(biāo)準(zhǔn)，聯(lián)合全產(chǎn)業(yè)鏈完善技術(shù)體系，做TPU架構(gòu)普及與標(biāo)準(zhǔn)化的核心推動者。”

這個目標(biāo)是否過于宏大？

但放在產(chǎn)業(yè)邏輯中看，也并非沒有可能。

GPU賽道已經(jīng)固化，頭部玩家三十年積累的護(hù)城河讓后來者幾乎沒有機(jī)會。而TPU賽道尚處早期，全球范圍內(nèi)還沒有形成類似CUDA那樣的壟斷性生態(tài)，市場格局遠(yuǎn)未定型。

與此同時，中國市場有獨特的需求變量：關(guān)鍵行業(yè)的信息安全合規(guī)要求、自主可控的政策導(dǎo)向、以及全球地緣政治帶來的供應(yīng)鏈不確定性，都給國產(chǎn)TPU提供了差異化的生存空間。

當(dāng)然，挑戰(zhàn)同樣巨大。軟件生態(tài)的差距、萬卡集群能力的完善、視頻等多模態(tài)場景的覆蓋，都是中昊芯英需要逐步攻克的難題。

TPU賽道至少還需要5年才能進(jìn)入成熟期，而這5年，恰恰是中昊芯英的窗口期。

算力的“終局猜想”

GPU和TPU或許不會走向“你死我活”的零和博弈。

更可能的終局是——當(dāng)新的計算場景出現(xiàn)時，GPU仍然是首選；而大模型規(guī)?；逃糜?xùn)練、海量Token高并發(fā)推理、成熟AI業(yè)務(wù)批量落地等場景將逐步聚焦TPU/DSA專用芯片。

這是商業(yè)規(guī)律的必然：當(dāng)一個產(chǎn)業(yè)從研發(fā)階段走向規(guī)?；涞仉A段，成本會成為最終的裁判。

楊龔軼凡在采訪中講了一個細(xì)節(jié)：中昊芯英從第一代芯片起就完整落地了Chiplet芯粒架構(gòu)，“這套集成方案的復(fù)雜程度遠(yuǎn)高于同行業(yè)”。如果當(dāng)初選擇更簡單的方案，產(chǎn)品可能更早推向市場，但天花板會更低。

“我們團(tuán)隊內(nèi)部有三條核心準(zhǔn)則：公平、堅持、創(chuàng)新。不管是芯片設(shè)計、制造工藝還是供應(yīng)鏈管理，遇到各類行業(yè)難題，都優(yōu)先依靠創(chuàng)新方式突破瓶頸?！?/p>

中昊芯英的“須臾”只是一塊芯片。但它背后代表的專用算力浪潮，正在改寫AI產(chǎn)業(yè)的成本公式。

而這場改寫，才剛剛開始。

人類計算史上，每一次通用架構(gòu)被專用架構(gòu)局部替代，都遵循同一個劇本。

x86統(tǒng)治了PC時代三十年，但手機(jī)芯片最終選擇了ARM。不是因為ARM更快，而是因為它更"對"——對功耗、對空間、對特定場景做了減法。

GPU統(tǒng)治通用計算的時代同樣輝煌，但AI推理不需要渲染游戲畫面的紋理單元，不需要圖形管線的固定功能模塊。當(dāng)一項技術(shù)被賦予太多"兼顧"，它在任何一個細(xì)分方向上都難以做到極致。

TPU正是那個敢于做減法的叛逆者，砍掉通用計算的一切冗余，只為張量運算而活。

每一個時代，都有屬于自己的計算范式。

如果站在2030年回望2026年，人們或許會發(fā)現(xiàn)，中昊芯英"須臾"芯片的發(fā)布，只是一個信號。

真正的變量是，當(dāng)AI從實驗室走入生產(chǎn)線，當(dāng)算力從"能不能"變成"貴不貴"，整個行業(yè)對芯片的評價標(biāo)準(zhǔn)，正在發(fā)生一次靜默而不可逆的遷移。