Deepseek進軍硬件了。
7月7日,據外媒報道,中國人工智能初創公司深度求索正在開發AI推理芯片。消息傳出,當天英偉達股價盤前下跌約2%。
媒體援引知情人士消息,該項目“始于一年前”,目前仍處于早期階段。深度求索近幾個月加大了芯片設計工程師的招聘力度,但招聘均在私下進行,未在公開平臺發布職位。
在三個星期前的6月16日,深度求索剛剛完成首輪外部融資,募資總額超500億元,估值超3300億元。6月17日,中國證監會宣布“科創板擴容”,允許未盈利的人工智能大模型企業上市。
![]()
深度求索完成首輪外部融資
全球范圍內,AI大模型企業自研芯片蔚然成風。Meta第四代自研芯片Iris將于9月量產;OpenAI于6月發布首款自研推理芯片Jalape?o;Anthropic于4月公開表示“考慮自研芯片”。
可以說,大模型公司為什么“造芯”、造哪一種芯、怎么造芯,且會帶來什么樣的影響,是這一波“芯浪潮”之下最普遍的疑問。而中國頂級大模型公司深度求索,拋出了意料之外、情理之中的答案。
為什么造芯?
深度求索造芯,堪稱“大勢所趨”。這是深度求索在外部地緣政治影響、內部供應鏈壓力,以及自身技術優勢共同驅動下的必然選擇。
2023年,梁文鋒在杭州接受采訪時說過:“我們真正的挑戰從來不是資金,而是高端芯片的出口禁令。”
自2022年起,受美國嚴苛的半導體出口管制政策影響,英偉達最先進的AI芯片不能通過合法渠道引入中國。深度求索早期的模型靠的是囤積的英偉達A100,V3和R1模型依賴“中國特供版”英偉達H800芯片訓練,但這些芯片先后遭全面禁售。
今年6月,美國商務部急發最新“指南”,規定即使中國企業實體身處中國境外——比如在海外設立的研發中心,也將被禁止購買、使用英偉達最先進的Blackwell及Rubin架構的芯片,完成空間上的“全球封堵”。
實際上,從后續的V4和V4-Flash大模型開始,深度求索已經全面適配華為芯片昇騰950PR,其單卡推理性能達到英偉達中國特供版H20的2.87倍。
針對昇騰950PR的架構特征,深度求索定制開發了算法和架構,持續將Token推理價格打到“白菜價”。據OpenRouter數據顯示,美國企業調用中國AI的Token占比,自今年2月起突破30%,峰值達46%,比起2025年上半年4%的水平,漲幅相當明顯。
昇騰950好是好,但實在供不應求。畢竟它面向的是整個中國人工智能產業的算力需求,客戶包括互聯網巨頭字節跳動、阿里巴巴、騰訊、百度、美團;包括政企巨頭中國移動、中國電信、中國聯通、國家電網、南方電網;也包括上海、深圳、成都等地方政府智算中心,還包括了各類做算力租賃的中小云廠商。
在代工廠中芯國際的先進制程“盤子”里,華為一家就占去了近一半的產能分配。就算如此,除去分給華為手機麒麟芯片的產能,留給昇騰芯片的晶圓也所剩無幾。其他中國AI芯片企業如寒武紀等,還要爭奪剩下的份額。
這樣一算,與其去爭搶緊張之又緊張的先進制程代工份額,中國大模型公司還不如自己打造推理專用的ASIC芯片。這類芯片不需要通用GPU那么極致的技術,14nm平臺就能做——這部分產能,中芯國際是很充裕的。
![]()
中芯國際
而且,深度求索做硬件,底氣很足。它就是靠“打磨”芯片起家的,擁有頂尖的軟硬件協同設計能力。
如果用上了自研的專用推理ASIC芯片,深度求索還可以再大幅降低Token調用成本,構建出更大的性價比優勢。同時,近期的巨額融資,也為深度求索提供了充足的“子彈”。
全球頂尖AI大模型梯隊,都在自研推理專用芯片。OpenAI與博通合作研發Jalape?o,Anthropic也被曝出正在接觸三星,Meta的第四代自研芯片Iris將于9月量產,特斯拉的AI5芯片已面世。而互聯網巨頭谷歌、亞馬遜均已深耕多年,有能力自研訓練芯片。
無論天時地利人和,深度求索都走到“造芯”這一步了。
只做“定制芯”
大模型公司集體下場“造芯”,無一例外,做的都是ASIC,也叫專用集成電路。
為什么做ASIC,不用英偉達的GPU呢?中國大模型企業買不到英偉達,美國大模型公司總不至于買不到。而這些公司“一齊”選擇ASIC,主要由需求決定。
英偉達GPU是通用處理器,為了兼容圖形渲染、科學計算和多種復雜算法,保留了大量閑置的硬件邏輯。而大模型公司的訴求集中且純粹——只需要芯片能跑特定參數規模的大語言模型。
而且,這些模型公司“自研”的芯片,只瞄準推理場景,而不是訓練場景。訓練芯片,需要非常高的算力密度,以及生態兼容度,比如英偉達的CUDA,門檻很高;而推理階段的計算模式相對固定,用ASIC針對性優化,可以“榨干每一寸晶圓”的性能。
今年拜OpenClaw這只“龍蝦”所賜,大量AI應用爆發,每天的線上調用都會產生海量的推理成本。對于大模型公司來說,在固定的推理任務上,一個架構完全定制化的ASIC,其Token的計算成本、功耗和延遲,都會顯著優于通用的GPU芯片。
![]()
AI智能體“龍蝦”/新華社發(薛瑩瑩 攝)
另外,自研芯片的“自研”也“有說法”。一般而言,“自研”包括全棧自研和部分自研,大模型公司肯定不會“從頭做起”,它們都是和其他芯片企業合作,自己負責擅長的“調校”部分。
像OpenAI發布的首款自研推理ASIC芯片,名叫Jalape?o,是一種產于墨西哥的著名辣椒。
這款芯片也如辣椒一樣強勁火爆:Jalape?o采用了與蘋果M3、M4系列以及英偉達Rubin架構同級別的臺積電3nm制程;計算核心采用“曝光掩膜板極限尺寸”,和英偉達H100一樣龐大;它還堆疊了8塊的HBM,一口氣能吞下幾萬億參數的模型權重。
Jalape?o具備了頂級訓練芯片的材料和體量,但專攻推理,從啟動到流片僅耗時9個月,可見OpenAI砸下血本、快馬加鞭,也是為了把GPT的運行成本死死壓下去。
![]()
OpenAI CEO奧特曼與博通 CEO陳福陽展示新芯片Jalape?o的晶圓
在分工上,OpenAI負責定義核心的計算圖,指出芯片應該保留哪些數學計算邏輯,砍掉哪些無用的通用圖形渲染邏輯;研發推理服務系統,確保芯片適配未來幾年內自己的模型技術路線圖。
博通本來就是全球ASIC定制化設計的“無冕之王”,谷歌的TPU就出自它手,它主要負責芯片的前端后端設計、高速互聯技術,還出面搞定了臺積電3nm的“寶貴產能”。
中國大模型公司的“造芯”思路也差不多。
近日也傳出“造芯”消息的智譜,據悉已經向多家中國本土芯片設計公司如寒武紀、壁仞發出初步詢問,評估為自家GLM模型定制專屬ASIC的可行性。該項目處于早期方案接洽階段,預計兩年以上時間才能流片落地。
把握“戰略生路”
中美的大模型巨頭都從“算力買家”化身“造芯玩家”,會給全球AI產業帶來一些深遠影響。
首先,“硬件混搭”將成為趨勢。
這幾年,英偉達憑借硬件的算力,和獨一無二的CUDA軟件生態,除了中國市場,在AI領域壟斷了超90%的市場份額。
![]()
英偉達CUDA架構的生態循環
各家大模型公司自研芯片,會最先打破英偉達的“寡頭”局面:訓練芯片歸英偉達,推理芯片自己做;同時,采用Triton、OpenXLA等開源或自研編譯器生態,不再被CUDA“鎖死”。
英偉達CEO黃仁勛多次對大模型巨頭、云廠商自研ASIC表達強硬的觀點,他認為ASIC缺乏靈活性,硬件過于固化、無法應對推陳出新的大模型架構;工程難度高,“90%的ASIC項目以失敗告終”;即使對手芯片“零成本”,英偉達的總擁有成本(TCO)也依然更低。
不過,黃仁勛到底老謀深算,雖然口頭上強硬反對,但商業動作極其務實。英偉達推出NVLink Fusion技術平臺,開放其看家本領“高速互聯”技術。
![]()
英偉達推出NVLink Fusion技術平臺
這意味著,如果科技巨頭非要自己造芯片,英偉達也不強求你買它的GPU,但是你可以把自研的ASIC接入到英偉達的NVLink網絡中——不買芯片,互聯“過路費”總要交一交。
其次,AI推理成本再降,應用大爆發來臨。
有研究顯示,用定制ASIC替代GPU,單位Token的計算成本和功耗將降低50%或更多。推理成本的暴跌,會促進更多的AI“助理”低成本地嵌入各類日常生活軟件和硬件中去。AI應用會進一步爆發,從高能耗的“奢侈品”變成普惠性的“基礎設施”。
再次,行業生態迎來洗牌,有人歡喜有人憂。
博通、邁威爾以及中國本土的定制芯片設計公司,都會成為大模型企業的座上賓,歷史性的“造富”機遇來臨。大模型企業提供算法和需求,設計服務商提供硅片實現,“算法加硅片”的聯合開發模式,取代傳統的硬件廠商造什么、軟件廠商就買什么的局面。
![]()
博通
而過去幾年涌現的AI芯片初創公司,命運就難說了。它們本來瞄準的客戶就是互聯網巨頭、大模型獨角獸,現在客戶都自己做芯片,它們的市場空間就被嚴重壓縮了。
另外,技術路線持續分化,中美兩國“各干各的”。
美國巨頭霸占著最好的供應鏈,制造ASIC,依然追求極致性能和先進制程,以求利用絕對的技術代差維持“地表最強”統治地位。3nm工藝、HBM4顯存一股腦用起來,仿佛這些東西“不要錢”一樣,
中國企業沒法單純堆砌頂級硬件,因此繼續采用“極致軟硬協同”策略,用軟件和算法的優勢彌補硬件的缺陷。這也正是深度求索大展拳腳的機會,通過一系列創新性的架構和底層算法優化,壓榨出極高的推理效率,走獨特的自主可控路線。
總之,大模型公司“造芯”,本質是AI產業走向成熟的標志——最初各家都在開展不計成本的算力軍備競賽,現在都要拼效率、拼成本、拼商業落地、拼“工業化大生產”,證明行業從投資階段逐漸轉向“產出”階段了。
當然,黃仁勛對ASIC的“反對”并不是毫無道理。但無論如何,ASIC之于中國大模型企業的意義,不僅僅是“省錢”,更是突破海外算力圍剿、繞過英偉達生態壁壘、形成商業閉環的戰略“生路”,需要自己把握住。
作者 |榮智慧
編輯 | 向現
值班主編 | 吳擎
排版 | 阿車
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.