![]()
來源:EETOP
7 月 4 日消息,根據中國科學院科技論文預發布平臺 ChinaXiv 最新公示論文,華為半導體負責人何庭波于7 月 3 日發布《面向多層級電子系統的時間縮微理論》(業內也稱“韜定律”)V2 版本。
![]()
相比較5 月 25 日發布的 V1 版本,新版論文在原有理論框架基礎上,補充了大量工程落地細節、實測量化數據與產品演進路線,進一步完善了以時間常數 τ 為核心的后摩爾時代縮放理論體系。
在論文結構方面,V2 版整合 V1 版引導段落,形成 8 章完整論述體系,章節邏輯分層更清晰。
V2 版還新增了多張原理與實物示意圖,覆蓋 τ 分層時空模型、LogicFolding 架構、鍵合界面截面、Unified Bus 互連架構、Hi-ONE 光引擎等核心技術。
在工程落地方面,V2 版本深度闡釋核心技術 LogicFolding 的齒比(gear ratio)概念,在混合鍵合間距接近頂層金屬布線尺寸時,3D 設計空間從傳統的“宏塊級離散優化”轉向“單元級連續優化”,可實現全局最優的垂直邏輯劃分,突破了傳統 3D 堆疊僅能按功能塊分層的局限。
論文全文翻譯如下:
摘要
六十年來,摩爾定律的幾何縮放一直驅動著半導體行業的進步。然而,這一行業契約已不再成立:純粹依靠縮小尺寸帶來的回報已經趨于平緩,前沿芯片的設計預算已超過每顆10億美元,并且在最先進節點上,單位晶體管的成本也不再下降。本文提出了一種新的縮放原理——τ縮放——該原理采用時間本身,而非晶體管面積,作為衡量進步的主要指標,將單一的特征時間常數τ作為橫跨十二個數量級的統一優化目標,從晶體管的開關速度到數據中心的負載響應均適用。
本文展示了兩個生產級規模的驗證案例。在一款移動SoC上,LogicFolding(邏輯折疊,一種將數字、模擬和存儲電路分區并垂直堆疊在多層有源層中的方法論)在固定工藝節點下,實現了晶體管密度55%的階躍式提升,并在同等性能下將功耗降低了41%。在AI系統方面,通過協同設計的、包含內存語義的統一總線架構、近封裝的光I/O以及邊緣到表面的3D折疊技術,預期到2035年可實現超過100倍的硬件集成度增長。
更深入的論述在于其方法論層面:τ縮放是繼鄧納德縮放之后,第一個為整個計算堆棧建立統一優化目標的縮放原理。
一、引言
自二十世紀六十年代中期以來,半導體行業一直以納米為單位衡量進步。每十八個月,晶體管尺寸縮小、頻率上升、每個邏輯門的成本下降。摩爾定律既是一個經驗觀察,也幫助建立了一個行業契約,整個計算堆棧都建立在此之上。然而,這個行業契約已不再成立。在7納米節點之后,幾何縮放不再帶來其歷史上的紅利。光刻工具正接近物理極限,極紫外(EUV)光刻的折舊在晶圓成本中占據主導地位,單位晶體管的成本曲線已經趨于平緩,在某些情況下甚至出現逆轉。對于那些獲取最先進光刻技術受限的組織而言,這一限制更早地成為瓶頸,并產生了更嚴重的影響。
因此,行業的核心問題已經發生了變化。它不再是“晶體管還能縮小多少?”而是“應該縮放什么,以及針對什么目標?”
在過去的六年里,作者在華為海思的團隊在移動SoC、AI加速器、系統互聯和封裝領域對這一問題進行了硅片層面的研究。結論是,答案不在于一個新的節點,也不在于一種新的晶體管架構,而在于優化目標本身的改變。本文認為,未來十年電子系統的演進不應由幾何縮放來引導,而應由時間縮放——即系統性地減少堆棧每一層的一個單一特征時間常數τ——來指引,從皮秒級開關的晶體管到秒級響應的數據中心負載。
下文將從科學方法論和產業路線圖兩個角度闡述τ縮放的理論,并借鑒了2020年5月至2026年5月期間381顆量產芯片的經驗教訓。
二、幾何時代的終結
在其歷史的大部分時間里,半導體行業只有一個任務:把晶體管做得更小。戈登·摩爾在1965年的觀察——晶體管密度大約每兩年翻一番——在十年后得到了羅伯特·鄧納德的縮放理論的補充,該理論確立了按比例縮小電壓和尺寸可以維持恒定電場[1, 2]。幾何縮放與鄧納德縮放相結合,在近五十年的時間里,為單位功耗性能和單位成本性能帶來了指數級的提升。
這種格局分兩個階段瓦解。大約在2005年,鄧納德縮放首先失效:電壓不再隨特征尺寸按比例縮小,暗硅時代開始。幾何縮放則持續得更久一些,由FinFET及隨后的環繞柵極(GAA)器件架構維持。然而,在7納米之后,純粹依靠尺寸縮放的回報已經趨于平緩。其原因現在已有充分記載:速度飽和將本征延遲對溝道長度的依賴從二次關系降為線性關系;局部互連的寄生電阻和電容在標準單元延遲預算中占據主導地位;掩模成本、EUV折舊以及設計規則復雜性已將2納米節點的前沿芯片設計預算推高至每顆芯片超過10億美元[3-8]。
其經濟后果同樣不可避免。先進節點的單位晶體管成本已經趨于平緩,而在最前沿,成本正在上升。支撐了過去五十年的行業契約——每一代都以更低成本提供更多晶體管——已不復存在。
對于華為海思而言,這一轉變伴隨著一個額外的約束:獲取最先進光刻工具受限。指望另一個節點能解決問題已不再可行。六年前,幾何路線圖趨于平緩,迫使我們面對一個更根本的問題——這個問題,回過頭來看,整個行業最終都將不得不面對。
三、時間,而非空間:摩爾時代的真正通貨
究其對終端用戶的核心影響,摩爾定律從根本上講從來都不是關于幾何尺寸的。晶體管變小提升了系統性能,是因為它們開關速度更快。互聯變得更密集提升了性能,是因為信號傳輸距離更短。更高的集成度提升了性能,是因為數據跨越的邊界更少。每一代產品所交付的,本質上都是時間的縮短——在器件層面是皮秒到納秒,在芯片層面是納秒到微秒,在系統層面是微秒到秒。空間縮放僅僅是壓縮時間的手段。
一旦認識到這一點,一個明顯的重新構架便浮現出來:時間本身應被采納為主要指標。可以在堆棧的每一層——晶體管、電路、芯片和系統——定義一個特征時間常數τ,并將其縮減作為統一的優化目標。幾何縮放隨后成為縮減τ的眾多技術之一,而非唯一的技術。
這一原理被稱為τ縮放,本文提出將其作為幾何摩爾縮放的后繼者,成為半導體演進的指導原則。形式上,τ被視為一個分層結構,可分解為:
τ = f(τ_transistor, τ_circuit, τ_chip, τ_system)
其中τ_transistor, τ_circuit, τ_chip, 和 τ_system 分別代表晶體管、電路、芯片和系統層的時間常數。每一層的τ由其下層τ以及該層引入的組織和通信開銷共同構成。如圖1所示,τ的工作空間在時間維度上跨越約十二個數量級(皮秒到秒),在空間維度上跨越相當的范圍(納米到公里)。在每一層,都有不同的機制可用于縮減τ:
晶體管:本征開關延遲,通過遷移率增強、應變工程、高κ/金屬柵極和GAA架構來解決,并且日益需要通過減少局部互連的寄生電阻和電容來解決,后者目前已超過本征傳輸時間數倍[6, 7]。
電路:信號路徑上的RC傳播延遲,通過更低電阻率的導體、低κ電介質,以及——最重要地——通過垂直集成減少線長來解決[9, 10]。
芯片:計算和內存訪問延遲,通過架構選擇、流水線深度、存儲層次和片上互聯來解決[11]。
系統:端到端的消息傳遞和同步時間,通過互聯拓撲、協議棧和架構設計來解決[12]。
![]()
[圖1:τ縮放的工作空間在時間和空間維度上跨越12個數量級,并劃分為四個層次:晶體管、電路、芯片和系統。]
從這個分層公式中可以得出一個有用的代際規則:
τ_n+1 = τ_n / α
其中下標n和n+1分別表示當前代和下一代。根據不同行業部門的市場壓力和優化優先級差異,我們認為年度縮放因子是應用特定的,而非通用的。不同的行業部門由于獨特的應用約束,需要不同的加速因子。我們預測,未來十年,受功耗和散熱預算限制的移動設備,其年度縮放因子約為1.3;需要安全關鍵實時響應的自動駕駛系統約為1.5;而吞吐量直接轉化為經濟價值的人工智能(AI)令牌生成則可高達10。
τ之所以能成為一個有用的主要指標,而不僅僅是對現有指標的重新命名,是因為它是整個堆棧中相同的指標。頻率、延遲、帶寬和吞吐量都受其各自層級的τ支配。工藝工程師、電路設計師和系統架構師可以用相同的單位來討論同一個量。τ是能夠實現端到端堆棧協同優化的語言——而各層獨立優化、時序僅作為事后考量而出現的時代已經結束。
四、LogicFolding:一個移動SoC的驗證案例
τ縮放的首次生產級規模測試是在移動領域進行的。智能手機SoC是一個特例,因為一顆芯片就構成了整個系統。多插槽并行不可用;沒有千節點互聯網絡可以掩蓋一條慢速鏈路。所有交付給用戶的性能都源自單個芯片,在幾瓦的功耗預算和手持設備形態因素設定的散熱限制下運行。
在2020年之后,當獲取前沿節點的途徑受限時,實際的問題變成了:在節點固定的情況下,如何繼續在單顆芯片上實現代際性能提升?
由此產生的答案被稱為LogicFolding。
定義:LogicFolding是一種設計方法論,它將數字、模擬和存儲電路分區到垂直堆疊的有源層中,遵循時間縮放原理,共同優化性能、功耗和面積(圖2)。
數字電路分為組合邏輯——寄存器之間的布爾網絡——和時序邏輯——保存狀態的觸發器。數字系統的性能上限由相鄰觸發器級之間的關鍵路徑延遲決定,而該延遲又由該路徑上的互連RC和門數量主導。傳統優化將門電路放置在平面內,并通過上方的金屬堆棧進行布線;導線越長,寄生RC越大,關鍵路徑就越慢。
LogicFolding拋棄了平面假設。關鍵路徑上的門電路被分布到兩個(并最終更多)垂直堆疊的有源層中,通過超精細間距的混合鍵合連接。從電路設計師的角度來看,這兩層表現為一個單一連續的結構,單元如同穿過一個額外的金屬層一樣分布在整個晶圓界面上。信號線大幅縮短,寄生RC急劇下降,時鐘偏移收緊,芯片在相同的工藝節點下以更高的時鐘頻率運行。
![]()
[圖2:LogicFolding的原理示意圖]
為了充分實現LogicFolding的架構優勢,關鍵在于保持混合鍵合與頂部金屬布線層之間的低間距比(通常稱為“齒輪比”)。當垂直互連間距接近頂部金屬層的尺寸時,優化目標的本質發生了根本性轉變。歷史上,當垂直互連間距遠大于頂部金屬間距時,設計空間基本被限制為一個離散優化問題。設計師在宏觀層面手動定義分區邊界,將整個功能模塊分配給特定的芯片 [13-18]。芯片間連接的粗糙粒度迫使采用離散的模塊分配方法,這在計算上是可行的,但并非全局最優。
本文提出的LogicFolding被定位為一個連續優化問題,其中精細粒度的垂直集成使得設計空間能夠在遠超功能模塊細粒度的層面上進行探索,為跨垂直維度進行全局協調的電路優化打開了大門。隨著鍵合焊盤間距的逐步縮小,垂直互連密度不斷增加,從電路連接性的角度來看,晶圓實際上被拉得越來越近。這使得優化空間從離散轉變為連續,需要使用先進的自動化設計工具。
值得注意的是,雖然順序3D集成在理論上通過順序制造器件層來提供最終的精細粒度(器件或標準單元粒度),但它目前面臨著重大的制造瓶頸 [19-22]。最關鍵的是,由于順序制造過程中固有的嚴格熱預算限制,下層器件的性能極易退化。作為一種商業可行的實現方式,LogicFolding利用成熟的先進晶圓對晶圓混合鍵合技術,實現了連續優化所需的低齒輪比。
在實踐中,LogicFolding要求齒輪比降至約3以下,且該比值越低通常效果越好。以當前約720納米的頂部金屬間距計算,這對應于低于2微米的混合鍵合間距——理想情況下齒輪比約為1,此時鍵合界面處的“鳥籠式”布線開銷將基本消失。實現這一間距,以及所需的套刻精度(<0.5微米)、硅通孔(TSV)微縮(臨界尺寸和保持區小于1.5微米,間距小于6微米)和良率(通過智能冗余設計接近100%),需要在供應商和合作伙伴生態系統中進行多年的工藝開發努力。
與2025年的Kirin 9030 Pro基線相比,在Kirin 2026上測得的成果提供了具體的實踐證據。盡管兩者制造于相同的成熟工藝節點,但基線采用傳統平面設計,而Kirin 2026采用了LogicFolding:
晶體管密度在單一代際間實現了階躍式提升,從155 MTr/mm2 提升至 238 MTr/mm2(晶體管密度計算公式為 2/
(CPP × 單元高度);Kirin SoC設計的面積利用率為68%)。這一提升幅度以往需要三年的幾何微縮才能實現。在環境溫度、1.1V供電電壓下,SoC性能核心的最高時鐘頻率提升了近13%。
在上下兩層構建的一條高速全局片上網絡數據通路,其面積減少了55%,同時供電穩定性得到改善。一項硅后時鐘偏移調整方案獨立貢獻了超過5%的SoC性能提升。
在SRAM上(其訪問速度、每比特能耗和面積強烈依賴于位線和字線長度),LogicFolding縮短了關鍵路徑,降低了每比特能耗,并將工作頻率提升了超過40%。
在一個代表性處理核心上,雙層折疊架構使時鐘緩沖器數量減少了超過50%,時鐘偏移降低了25%,線長縮短了約30%。
熱管理仍然是LogicFolding架構中的關鍵挑戰。為解決此問題,我們采用了熱感知分區和布局規劃策略。在設計階段,我們有意識地避免折疊高功耗電路,并從結構上防止高功耗子系統的空間相鄰。SoC性能核心是我們詳細評估的焦點。如表1所示,利用LogicFolding帶來的性能提升,Kirin 2026降低其供電電壓以實現與Kirin 9030 Pro的等性能運行。在實際測量中,達到此等性能目標時,功耗降低了41%,同時功率密度下降了5.6%。
表1. Kirin 2026與Kirin 9030 Pro在等性能下的功耗對比
![]()
這些增益是在固定器件節點上實現的,并非通過新的光刻步驟,而是通過邏輯在三維空間分布上的拓撲重組獲得的。
在Kirin 2026中量產的LogicFolding實現是刻意保守的。混合鍵合間距達到了1.5微米;硅通孔著陸僅向頂部金屬下方推進了一步;折疊僅沿關鍵路徑選擇性應用,而非貫穿整個設計(圖3)。即便如此,CPU性能核心的頻率今年已回歸至3.1 GHz。
![]()
圖3. (a) 下一代Kirin SoC平臺的原理示意圖;(b) 其鍵合界面的橫截面圖像。
在未來十年間,LogicFolding預計將從局部的關鍵路徑折疊演進為全面的、多層級的折疊——每個封裝內將集成三層、四層乃至更多的有源層。這一演進由低溫混合鍵合技術(放寬了各層之間的熱預算限制)以及硅通孔(TSV)著陸點從頂層金屬逐步下移至M6層所推動,此舉將釋放超過30%的高層布線資源。從2026年到2035年,晶體管密度預計將向400 MTr/mm2及更高水平邁進。
與此同時,LogicFolding使Kirin能夠大幅提升CPU核心頻率,并為邁向4 GHz及更高頻率鋪平道路(見圖4和表2)。該路線圖是切實可行的,并且在成本方面具有經濟可行性。
表2. Kirin CPU性能核心工作頻率趨勢
![]()
![]()
圖4. 未來Kirin產品晶體管密度與性能核心頻率預測
Highlight — LogicFolding核心指標一覽
混合鍵合間距:低于2微米(Kirin 2026中為1.5微米;目標齒輪比≈1)
套刻精度:低于0.5微米
硅通孔臨界尺寸/保持區:低于1.5微米;間距低于6微米;失效率低于100 ppm;修復率99.9%
良率:通過智能冗余設計接近100%
晶體管密度:單代從155 MTr/mm2躍升至238 MTr/mm2
能效/頻率增益(SoC性能核心):+41% / +13%
SRAM工作頻率:提升40%以上
代表性核心上的時鐘緩沖器數量/時鐘偏移/線長:-50% / -25% / -30%
五、從皮秒到微秒:AI數據中心中的τ縮放
一個自然的問題是:在毫瓦級智能手機領域發展出的原理,能否成功遷移至AI訓練和推理所涉及的吉瓦級領域?AI工作負載占據了τ頻譜的另一端:并非單顆芯片,而是數百或數千顆芯片如同一臺機器般協同工作,其總算力在過去十年間增長了約六個數量級。
答案是肯定的——只要將τ視為一個系統級目標,并應用到整個鏈條中,而非僅限于單個加速器內部。
塑造AI領域τ論證的兩個事實。首先,AI系統持續增長——從單芯片到數十顆、數百顆,并正增至數萬顆[23, 24]。其次,現代AI系統的能源預算和物料預算主要由數據主導,而非計算[25-27]。在一個大型AI集群中,超過80%的能源消耗于數據移動;超過70%的系統成本用于數據存儲。其含義是直接的:減少數據在傳輸途中的時間——在芯片間、機架間以及封裝內部——至少與減少計算本身所花費的時間同等重要。
τ縮放在AI規模上通過三個協同層實現:系統架構(統一總線)、近封裝光學引擎(Hi-ONE)以及封裝本身的拓撲重組(3D折疊)。這種全棧方法系統性地壓縮了分布式AI系統固有的系統τ。具體而言,統一總線通過統一內存語義互連消除了多層協議開銷,大幅降低了跨節點通信延遲。Hi-ONE利用近封裝光學I/O直接壓縮物理傳輸延遲。3D折疊通過將邊緣受限資源轉移到表面,克服了二次方到線性縮放差異,最大限度地減少了節點內寄生RC。總之,這套從電路到系統的優化堆棧實現了AI系統中τ縮放的終極目標:使大規模AI集群能夠像一個單一邏輯實體一樣協同運行。
1、統一總線——一種τ優先的系統架構
傳統的多節點、多加速器架構通過多個堆疊協議傳輸數據:連接主機的PCIe、機箱內的NVLink或專有架構、機箱間的以太網或InfiniBand,以及其上的軟件棧遠程內存訪問。每一層都涉及協議轉換、額外的序列化、額外的DMA緩沖以及進一步的握手交互。每次轉換都會增加延遲、降低可靠性并帶來額外成本。
統一總線用一個統一的協議取代了這一堆棧,該協議在機箱內部和跨機箱運行——這是一個完全對等的架構,在整個系統中本地化地暴露內存語義(圖5)。數據移動被簡化為在內存語義層進行無需轉換的點對點傳輸,并以硬件管理的緩存一致性取代了軟件棧的消息傳遞。
其已測得的收益約為兩個數量級:端到端的遠程訪問延遲從TCP/IP類協議棧典型的數十微秒降至約100納秒——在主導的通信路徑上實現了約500倍的系統τ縮減[28-30]。在機架規模上,這使系統漸近地接近一臺單一的、結構一致的機器——內部將其稱為“系統即單芯片”(System-as-One-Chip)。
![]()
圖5. (a) 統一總線原生支持內存訪問語義、消息傳遞和統一遠程過程調用(uRPC)。這使得多樣化的計算資源能夠無縫集成,實現高帶寬和超低延遲,同時促進分布式系統中高效的資源池化;(b) 通過統一總線實現低開銷內存訪問的原理示意圖。
2、Hi-ONE——封裝級光學I/O
一旦通信延遲得到降低,下一個瓶頸便浮現出來。在單個機架內增加芯片密度會使功率密度和可靠性超出其極限——同時也使電氣SerDes超出其能力范圍。在每顆AI芯片400 Gb/s的速率下,銅纜布線仍是成熟且可靠的方案。但當速率達到每顆芯片數Tb/s時,銅纜在物理上變得不切實際:SerDes的傳輸距離縮短,線纜變得過于笨重,面板安裝變得不可行,且熱管理和供電裕度也被耗盡[31, 32]。
華為海思為此開發的方法是高密度光互連節點引擎(High-density Optical-interconnect-Node Engine, Hi-ONE)——一種近封裝光學引擎,每個模塊可提供8 Tb/s的帶寬,在單一光學鏈路上與AI芯片的統一總線帶寬相匹配(圖6)。它將所需的SerDes傳輸距離從約100厘米縮短至約5厘米,消除了笨重的線纜,并將傳輸距離從不足1米擴展至100米——這使得分布式、吉瓦級數據中心的高密度互連在物理上成為可能。
Hi-ONE背后的設計理念本身就是一個τ縮放的論證。Hi-ONE并未采用用于高信號保真度的重型DSP,而是采用了一種線性方案——一種模擬均衡增強型驅動器和跨阻放大器——并允許統一總線協議容忍故意放寬的誤碼率。這種協議層與物理層之間的跨層權衡,降低了功耗、成本和集成復雜性,并體現了τ優先方法論所推崇的跨層折衷。
![]()
圖6. Hi-ONE芯片示意圖
3、N2-vs-N的困境,以及為什么3D折疊不可避免
AI加速器不會止步于2.5D扇出的最深層次原因是幾何學的,這一點值得明確陳述,因為它決定了2030年后的路線圖。
在傳統的2.5D AI芯片中,邏輯芯片位于封裝中心,HBM堆棧和SerDes排列在其邊緣,電壓調節器環繞封裝。每一個存儲器信號、每一個互連信號、每一安培的供電電流,都必須穿越芯片的邊緣才能到達內部的計算資源。如果芯片的邊長為N,那么:
●計算能力與N2成比例(面積),
●但內存帶寬、互連和供電——所有這些都由2.5D扇出沿邊緣承載——僅與N成比例(周長)。
這些二次方曲線與線性曲線之間日益擴大的差距構成了扇出困境,它解釋了2.5D縮放的停滯,無論底層邏輯節點多么激進都無法解決。沒有任何晶體管級的改進能夠彌補這種拓撲缺陷。
3D折疊通過將受邊緣限制的資源重新定位到表面上來解決這一困境。供電(通過背面供電和集成電壓調節器)、高速內存(通過與邏輯的混合鍵合)和光學I/O(通過近封裝Hi-ONE)都從周長遷移到垂直表面——一旦位于表面上,它們便按N2擴展,與計算能力的二次方增長速度相匹配。封裝不再是一個被內存和SerDes周邊帶環繞的邏輯芯片;它變成了一個垂直集成的堆棧,其中內存、結構、供電和邏輯都同步擴展。
該路線圖將這一演進置于一個明確的時間表上。大約到2030年,AI加速器(昇騰SuperPoD系列——2025年的昇騰910C、2026年的昇騰950,以及后續的990)依賴成熟技術的組合:芯粒、2.5D扇出,以及通過微凸點和標準間距混合鍵合實現的3D堆疊。大約在2030年,昇騰990將把LogicFolding引入AI加速器類別,從那時起,3D折疊將成為直到2035年的α的主要承載者。沿著這條路徑,到2035年,硬件集成度預計將增加超過100倍,其中τ的縮減分布在堆棧的每一層,而非集中在器件層面。
亮點——AI系統規模的τ縮放
●統一總線遠程訪問延遲:數十微秒 → 約100納秒(約500倍τ縮減)
●Hi-ONE單模塊帶寬:8 Tb/s(與單芯片統一總線帶寬匹配)
●Hi-ONE SerDes傳輸距離:約100厘米 → 約5厘米;面板到面板傳輸距離:<1米 → 100米
●扇出困境:計算∝N2,受周長限制的帶寬/I/O/供電∝N
●3D折疊:將帶寬、光學I/O和供電從邊緣重新定位到表面,恢復N2的對等性
●2026年→2035年預計硬件集成度增長:>100倍
六、邏輯與內存:從解耦到再融合
τ縮放的一個影響值得單獨討論,因為其后果既是產業性的,也是技術性的。
在8086時代,業界通過標準化的內存總線,有意地將處理器和內存解耦。這種解耦使得兩個產業能夠獨立擴展:處理器性能沿著摩爾曲線快速進步,而內存供應商則在其旁邊發展出一個龐大的、獨立的市場。
AI時代正在逆轉這種解耦。計算密度的持續擴展正將內存帶寬、延遲、功耗和封裝推向極限。HBM、混合鍵合和3D堆疊SRAM都是一個基本事實的癥狀:對于現代AI工作負載,數據移動與計算本身同等關鍵,邏輯和內存再次被推向緊密的物理集成。隨著它們融合,供應鏈中的影響力平衡正在向內存和封裝供應商轉移。
技術方向是明確的,但經濟上的解決方案尚未確定。在AI硬件時代持久的成功將屬于那些能夠技術上融合邏輯與內存,并建立一種經濟伙伴關系,使兩個行業都能長期分享這種融合收益的參與者。這不僅僅是一個研究問題;這是業界在未來十年需要解決的一個結構性問題。通過使每次分離的跨層成本變得可見,τ縮放確保這個問題無法被推遲。
七、開放挑戰
將τ縮放描述為一個已完成的系統會具有誤導性。幾個實質性問題仍然懸而未決,在此指出是為了強調正在進行的工作并邀請合作。
工具鏈和方法論。當今的EDA是為這樣一個時代開發的,在那個時代,面積、時序和功耗是沿著三條獨立的軸進行優化的,系統τ是作為一個殘余量出現的。全面的LogicFolding要求工具鏈將多個堆疊芯片視為一個單一連續的設計實體——以單元粒度而非模塊粒度進行邏輯分區,在統一的成本函數下跨越整個三維空間進行布局,并在垂直互連寄生效應、保持區排除區和晶圓間工藝變化以傳統二維訓練工具無法充分處理的方式相互作用的跨芯片路徑上完成時序收斂。已開發出能產生有用結果的初步內部工具,方法細節將在未來幾個月內公布。一個τ原生的工具鏈——開放的、多物理場的、三維原生的——是未來十年最重要的賦能投資。
晶圓間工藝變化。LogicFolding鍵合可能來自不同批次的晶圓——在某些情況下甚至是不同節點的晶圓。晶圓間的閾值電壓、驅動電流和互連RC的變化實質上大于晶圓內的變化,并且對時鐘分配和保持時間裕度的影響最為嚴重。智能冗余、自適應補償和τ感知的簽核流程是應對方案的必要組成部分。
垂直互連開銷。每一個混合鍵合和每一個硅通孔都會產生有限的電阻和電容代價,并且硅通孔的保持區會取代標準單元。因此,LogicFolding必須逐層地通過一個簡單的不等式來證明其合理性:
τ收益(等效硅面積 + 線長縮減) > τ代價(垂直互連寄生RC)
對于移動關鍵路徑和存儲器,這個閾值已被跨越;該閾值是特定于工作負載的,并且邊界將隨著鍵合間距的縮小而移動。
功耗。τ是時間定律,而非焦耳定律。一個運行速度快10倍但功耗也高10倍的超級節點并不違反任何縮放原理,但卻超出了電網容量。因此,τ縮放需要一個能源伴侶:消除堆棧開銷的內存語義結構、將每比特皮焦耳能耗降低數個數量級的近封裝/共封裝光學、背面供電、存內/近存計算,以及將τ裕度換回功率的規范實踐(數據中心規模的動態電壓頻率調整——與實現智能手機電池長壽的機制相同)。重要的是,τ裕度本身在按此方向分配時,也提供了能源裕度。
基準測試。行業當前的性能基準測試——Linpack、MLPerf、SPEC——是為一個每個工作負載只需一個標量值就足夠的時代設計的。一個τ縮放的行業需要τ剖析基準測試——能夠揭示系統每一層主導τ以及該層剩余裕度的向量。主導τ層,按定義,就是下一個投資方向。
八、六年回顧,十年展望
在2020年5月至2026年5月期間,華為海思設計并將381顆芯片投入量產,服務于移動、AI、汽車、工業和基礎設施市場。在整個產品組合中,τ縮放的論點經受住了考驗:
●在器件和電路層面,到2031年,晶體管密度已從155 MTr/mm2向400+ MTr/mm2提升。
●在芯片層面,LogicFolding已在領先的移動SoC上證明,在固定器件節點下,關鍵路徑頻率、能效和密度能夠繼續進步。
●在系統層面,統一總線和Hi-ONE已證明,數百微秒的通信τ可以被壓縮至數百納秒,并且一個多機架AI集群可以表現為一臺單一的一致性機器。
●展望未來,到2029年,CPU性能核心頻率預計將達到4 GHz及更高;在典型使用情況下,Kirin SoC的能效預計在三到五年內翻倍以上;到2035年,AI硬件集成度預計將增長超過100倍。
超越任何單個產品,更深層次的論斷在于方法論層面。τ縮放是自鄧納德縮放以來,第一個為整個堆棧提供共享優化目標的縮放原理。它向工藝工程師、電路設計師、架構師、系統工程師和軟件團隊發出信號:這些群體現在正在用相同的單位優化相同的量,并且任何單層的改進都必須傳播到系統τ才能算數。它也向行業戰略家和資本配置者表明:下一美元應追隨τ,而非節點——競爭性性能不再需要永遠駐留在光刻的最前沿,封裝、內存帶寬和架構設計現在擁有了先前僅由前沿邏輯節點單獨占據的戰略權重。
對于一代接受“摩爾定律”即等同于“進步”教育的工程師來說,這是一個艱難的轉變。幾何時代實際上已經終結;否認這一事實并非可行的策略。通過微型化加速的時代,正在讓位于通過多層電子系統中的τ優化來加速的時代——而那些在未來六到十年內采納τ作為主要目標的企業、研究團隊和生態系統,將決定此后十年計算的面貌。
未來十年的工作范圍已經明確。許多開放問題仍然存在,沒有任何一個組織能夠獨自解決它們——工具鏈、標準、基準測試、器件物理和經濟模型都需要來自任何一家公司之外的貢獻。因此,本文既是一份來自實踐一線的報告,也是一份邀請。
前方的路線圖要求很高,但方向是明確的。
作者簡介
何庭波領導華為的半導體業務。她所領導的團隊在2020年至2026年間,設計并將381顆芯片投入量產,產品覆蓋移動、AI、汽車和基礎設施市場,并是本文所述τ縮放方法論以及LogicFolding、統一總線和Hi-ONE技術的源頭。
致謝
本文借鑒了華為海思及其晶圓廠、設備、EDA和系統合作伙伴生態系統中數千名工程師長達六年的工作成果。作者感謝那些以耐心使這項工作成為可能的客戶。
參考文獻:
1. Moore G E. Cramming more components onto integrated circuits. Electronics, 1965, 38: 114-117.
2. Dennard R H, Gaensslen F H, Yu H N, et al. Design of ion-implanted MOSFET's with very small physical dimensions. IEEE Journal of Solid-State Circuits, 1974, 9: 256-268.
3. Wong H S P. Beyond the conventional transistor. IBM J Res Dev, 2002, 46: 133-168.
4. Zhirnov V V, Cavin R K, Hutchby J A, et al. Limits to binary logic switch scaling - a gedanken model. Proceedings of the IEEE, 2003, 91: 1934-1939.
5. Moore G E. Lithography and the future of Moore's law. Proc SPIE, 1995, 2437: 2-17.
6. Taur Y, Ning T H. Fundamentals of Modern VLSI Devices. 3rd ed. Cambridge: Cambridge University Press, 2021.
7. IEEE. International roadmap for devices and systems (IRDS) 2023/2024: Interconnect and More-than-Moore chapters[R]. Piscataway: IEEE, 2024.
8. Flamm K. Measuring Moore's law: evidence from price, cost, and quality indexes[R]. Cambridge: National Bureau of Economic Research, 2018.
9. Soulié J P, Sankaran K, Troeye B V, et al. Selecting alternative metals for advanced interconnects. J Appl Phys, 2024, 136: 171101.
10. Batude P, Ernst T, Arcamone J, et al. 3D sequential integration: a key enabling technology for heterogeneous co-integration of new functions with CMOS. IEEE J Emerg Sel Top Circuits Syst, 2012, 2: 714-722.
11. Hennessy J L, Patterson D A. A new golden age for computer architecture. Commun ACM,2019, 62: 48-60.
12. Zuo P, Lin H, Deng J, et al. Serving large language models on Huawei CloudMatrix384. arXiv preprint, 2025, arXiv:2506.12708.
13. Loh G H, Xie Y, Black B. Processor design in 3-D die-stacking technologies. IEEE Micro, 2007, 27: 31-48.
14. Chen M F, Chen F C, Chiou W C, et al. System on integrated chips (SoIC?) for 3D heterogeneous integration. In: Proceedings of 2019 IEEE 69th Electronic Components and Technology Conference (ECTC), 2019.
15. Chen Y M, Ko T, Ting K C, et al. Next generation TSMC-SoIC? platform for ultra-high bandwidth HPC application. In: Proceedings of 2024 IEEE International Electron Devices Meeting (IEDM), 2024.
16. Ingerly D B, Amin S, Aryasomayajula L, et al. Foveros: 3D integration and the use of face-toface chip stacking for logic devices. In: Proceedings of 2019 IEEE International Electron Devices Meeting (IEDM), 2019.
17. Gomes W, Morgan S, Phelps B, et al. Meteor Lake and Arrow Lake Intel next-gen 3D client architecture platform with Foveros. In: Proceedings of 2022 IEEE Hot Chips 34 Symposium (HCS), 2022.
18. Wuu J, Agarwal R, Ciraula M, et al. 3D V-Cache: the implementation of a hybrid-bonded 64MB stacked cache for a 7nm x86-64 CPU. In: Proceedings of 2022 IEEE International SolidState Circuits Conference (ISSCC), 2022: 428-429.
19. Vinet M, Batude P, Fenouillet-Béranger C, et al. Opportunities brought by sequential 3D CoolCube? integration. In: Proceedings of 2016 European Solid-State Device Research Conference (ESSDERC), 2016: 226-229.
20. Santos C, Vivet P, Thuries S, et al. Thermal performance of CoolCube? monolithic and TSVbased 3D integration processes. In: Proceedings of 2016 IEEE 3D Systems Integration Conference (3DIC), 2016.
21. Mallik A, Vandooren A, Witters L, et al. The impact of Sequential-3D integration on semiconductor scaling roadmap. In: Proceedings of 2017 IEEE International Electron Devices Meeting (IEDM), 2017.
22. Vandooren A, Witters L, Franco J, et al. Sequential 3D: Key integration challenges and opportunities for advanced semiconductor scaling. In: Proceedings of 2018 IEEE International Conference on IC Design & Technology (ICICDT), 2018.
23. Jiang Z, Lin H, Zhong Y, et al. MegaScale: Design and deployment of a 10,000-GPU system for LLM training. In: Proceedings of 21st USENIX Symposium on Networked Systems Designand Implementation (NSDI), 2024.
24. Narayanan D, Shoeybi M, Casper J, et al. Efficient large-scale language model training on GPU clusters using Megatron-LM. In: Proceedings of the International Conference for High Performance Computing, Networking, Storage and Analysis (SC), 2021: 1-15.
25. Horowitz M. Computing's energy problem (and what we can do about it). In: Proceedings of 2014 IEEE International Solid-State Circuits Conference Digest of Technical Papers (ISSCC),2014: 10-14.
26. Gholami A, Yao Z, Kim S, et al. AI and memory wall. IEEE Micro, 2024, 44: 33-39.
27. Aminabadi R Y, Rajbhandari S, Zhang M, et al. DeepSpeed-inference: enabling efficient inference of transformer models at unprecedented scale. In: Proceedings of the International Conference for High Performance Computing, Networking, Storage and Analysis (SC), 2022.
28. Liu Y, Jiang L, Li D, et al. ByteDance Jakiro: Enabling RDMA and TCP over Virtual Private Cloud. In: Proceedings of the ACM SIGCOMM 2025 Conference, 2025: 114-128.
29. Firestone D, Putnam A, Mundkur S, et al. Azure accelerated networking: SmartNICs in the public cloud. In: Proceedings of 15th USENIX Symposium on Networked Systems Design and Implementation (NSDI), 2018: 51-64.
30. Liao H, Liu B Y, Chen X P, et al. UB-Mesh: a hierarchically localized nD-FullMesh datacenter network architecture. IEEE Micro, 2025, 45: 20-29.
31. Yuan Y, Peng Y, Cheung S, et al. The perspective of all-silicon photonics and systems. APL Photonics, 2025, 10: 060901.
32. Shekhar S, Bogaerts W, Chrostowski L, et al. Roadmapping the next generation of silicon photonics. Nat Commun, 2024, 15: 751.
閱讀最新前沿科技趨勢報告,請訪問21世紀關鍵技術研究院的“未來知識庫”
![]()
未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺,收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能,數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。
![]()
截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告
(加入未來知識庫,全部資料免費閱讀和下載)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.