擺脫GPU依賴！Nature發布「物理神經網絡」綜述：實現大規模、高效AI訓練與推理

近年來，AI 通過聊天機器人等工具深刻改變了我們的生活，并在醫療、氣象和材料設計等領域落地應用。這一進步主要依賴 GPU 的算力和數據規模的增長。但隨著模型規模不斷擴大，傳統數字 GPU 的局限性愈發明顯。要突破這一瓶頸，AI 需要在保證精度和吞吐量的同時，降低訓練與推理的延遲和能耗。

一個備受關注的研究方向是“物理神經網絡”（Physical Neural Networks，PNNs），它利用光、電、振動等物理系統進行計算，有望擺脫對傳統數字芯片的依賴，實現更高效、更大規模的 AI 訓練與推理。

日前，來自洛桑聯邦理工學院的研究團隊及其合作者，在權威科學期刊

Nature

論文鏈接：

https://www.nature.com/articles/s41586-025-09384-2

研究團隊表示，“只要有足夠的研究投入”，未來的物理神經網絡就有可能改變人工智能（AI）計算的方式。

更快、更節能、更實用

物理神經網絡是一類利用模擬物理系統進行計算的類神經網絡，能夠比傳統計算硬件更直接、更靈活、更隨機地利用模擬物理計算，可能會改變 AI 系統的可實現性與實用性。目前分為兩類：

• 同構型物理神經網絡（Isomorphic PNNs）：通過設計硬件，實現與預定義數學變換的嚴格操作級同構來執行數學變換。一個典型實例是電子交叉陣列，其設計目的是直接執行矩陣-向量乘法，陣列中每個交叉結點的電導值，與待乘矩陣中的一個元素一一對應。

• 破缺同構型物理神經網絡（broken-isomorphism PNNs）：直接訓練硬件的物理變換，這些物理變換應與傳統神經網絡中的數學操作大致相似，但無需以精確的一一對應方式關聯。

圖｜物理神經網絡

盡管物理神經網絡還處于實驗室階段，但已經顯現出較大潛力。它能更直接地利用物理規律，理論上比傳統硬件更節能、速度更快，最終可應用于數據中心和邊緣計算場景，既能驅動大型生成式模型運行，又能輔助本地推理或智能傳感器。

無論哪種應用場景，都需要對神經網絡進行訓練，但具體約束條件會因應用領域而異。主要訓練技術包括：

1.計算機模擬訓練（In silico training）

訓練 PNNs 最直接的方法是在計算機仿真環境中對其進行訓練。該方法采用 PNNs 的數字孿生模型，從而實現權重梯度計算和反向傳播運算。數字孿生通常通過兩種方式構建：一是直接對 PNNs 進行特征描述，二是采用數據驅動法——即獲取 PNNs 的輸入-輸出樣本數據，并將數字孿生模型擬合到這些數據上。訓練時在數字世界算梯度、更參數，再把結果套到物理硬件上。

2.物理感知反向傳播（PAT）

物理感知訓練法（PAT）強化了一個核心理念：只要對物理系統建立近似預測模型，就能可靠實現梯度提取。其核心機制是物理系統執行前向傳播，而通過微分數字模型來完成反向傳播，關鍵在于前向與反向傳播的非匹配性。與多數訓練算法相似，僅需數字模型生成的估計梯度與真實梯度保持近似對齊即可。相較于要求完美數字模型的嚴苛條件，這種寬松標準使 PAT 在多數場景下可直接替代計算機模擬訓練，同時保留原位訓練算法的諸多優勢。

這種方法已經在光學、機械、電子系統上驗證過。既能減少物理噪聲的影響，又能保持反向傳播的精準度。缺點在于物理參數更新慢時，訓練會變緩。

3.反饋對齊（FA/DFA）

在物理神經網絡中，權重直接體現在硬件組件中而非傳統存儲器中。與數字系統中矩陣轉置是簡單的計算操作不同，在物理神經網絡中這種轉置操作并不天然存在。提取或計算轉置通常需要更多硬件模塊或物理結構的重新配置來實現權重轉置。

反饋對齊（FA）和直接反饋對齊（DFA）這兩種方法允許在不將前向傳播權重轉移到反向傳播的情況下訓練物理神經網絡，從而提高效率，但通常以犧牲性能為代價，并且仍需依賴激活函數的導數和各層的激活狀態，存在精度衰減的問題。FA 的核心優勢在于采用固定隨機反饋權重，通過逐層傳遞誤差信號訓練。DFA 則通過使用固定隨機反饋權重矩陣，將誤差信號同步廣播至所有層，從而實現了對深層網絡的高效訓練。

4.物理局部學習（PhyLL）

PhyLL 通過兩次正負樣本數據傳遞間的余弦相似度進行學習，省去了物理實現中頗具挑戰性的層歸一化操作。該方法在聲學、微波和光學三大物理神經網絡領域完成實驗驗證，實現了監督與無監督訓練模式，且無需掌握非線性物理層的詳細特性參數。

5.零階梯度和無梯度訓練

這類算法可分為兩大類：第一類是微擾方法，通過在不同坐標點（權重值）采樣目標函數（即損失函數）來估算梯度，隨后利用傳統梯度下降法優化權重；第二類無梯度方法則采用基于種群的采樣策略。并非直接追求梯度近似，而是通過迭代方式生成更優的候選解。遺傳算法、進化策略和群體型算法遵循啟發式標準，強化學習則采用迭代優化的候選生成策略。

6.通過物理動力學進行梯度下降訓練

梯度下降優化算法是當前最先進機器學習系統的核心技術。研究人員提出了四種無需數字孿生即可實現梯度下降的物理訓練方法。

• 通過線性倒數物理系統實現矩陣-向量乘法運算：目標是將傳統的神經網絡和反向傳播映射到模擬硬件上。核心思路在于，前向傳播（推理）和反向傳播（訓練）所需的矩陣-向量乘法運算，可以通過線性倒數物理系統實現。

• 基于線性波散射的非線性計算：該方法將輸入數據編碼為不可觸碰的物理參數，而其他參數則在訓練過程中進行優化，最終通過神經形態系統輸出散射響應。梯度更新直接基于輸出諧振腔與更新點之間的傳輸信號計算得出。

• 平衡傳播（EP）：此方法適用于能量型系統，輸入作為邊界條件提供，而物理規律則驅動系統達到能量最小值（即平衡狀態）以產生響應（輸出）。在 EP 的原始公式中，權重通過局部對比規則更新，該規則基于比較對應不同邊界條件的兩個平衡態。相較于其他對比學習算法，EP 的主要優勢在于能夠計算任意成本函數的權重度。

• 哈密頓回溯反向傳播（HEB）：在提取權重梯度的基礎上，直接利用物理動力學原理生成正確的權重更新，無需任何反饋機制。訓練過程中，前向傳播階段中，信號波與可訓練參數波共同穿過非線性介質并發生相互作用。誤差信號疊加在信號波上，通過時間反轉操作使兩波重新穿過介質。經過反向傳播過程后，可訓練參數波會自動朝成本函數梯度方向進行更新。

圖｜物理神經網絡的訓練方法。各子圖分別展示不同方法的計算需求與學習特性，通過對比三種核心指標：（1）在成本函數上執行梯度下降的能力；（2）所需的數字運算量；（3）展示了大規模數據集性能。 訓練好的物理系統用淺灰色表示，固定的物理系統用深灰色表示。前向和后向傳遞分別用綠色和紅色箭頭表示。

商業可行性如何？

大型 AI 模型在物理尺寸上確實非常龐大，但這并不意味著物理神經網絡毫無應用前景。

事實上，對于這種規模的計算，任何硬件設備都不可避免地需要較大的物理空間。這或許揭示了未來大規模物理神經網絡 AI 系統最重要的擴展性考量：若物理神經網絡硬件設計得當，其底層物理特性可能使其展現出與數字電子設備不同的能量擴展特性。

這意味著，當模型規模足夠大時，物理神經網絡的實現方案與數字系統相比，模擬硬件可能具有更高的效率優勢，盡管其存在諸多開銷成本。

圖｜模擬大型模型

需要強調的是，算力的拓展并非只依賴硬件升級。Transformers 架構之所以成為當下主流，不僅因其算法突破，更在于與可擴展硬件形成了協同效應。展望超大規模物理神經網絡的發展，或將受限于對現有算法框架的固守。未來必須構建軟硬件協同的新型組合方案。

考慮到基礎設施的路徑依賴，以及高效數字大模型的快速進展，若要具備商業可行性，物理神經網絡的能效必須較數字電子設備高出數千倍乃至數百萬倍。要實現這一目標，需要設計能夠整體應對規模挑戰的物理計算機，并以硬件與軟件的協同優化為核心，將高效挖掘物理計算能力作為首要目標。

未來挑戰

除訓練問題外，物理神經網絡還面臨一些需深入研究的突出挑戰：

物理神經網絡面臨的一個嚴峻挑戰是計算過程中的噪聲及其累積效應。噪聲來源包括內部隨機過程、制造缺陷以及參數漂移等。盡管神經網絡計算對噪聲的容忍度高于傳統計算，但當多種噪聲共存時，如何維持計算精度成為實現實際應用的關鍵瓶頸。此外，為了最小化功耗，物理神經網絡常需在接近內部噪聲量級的條件下運行，這進一步加劇了精度保持的難度。

另一大挑戰是現代物理神經網絡與模擬物理硬件的適配問題。當前大多數架構尚未針對模擬物理硬件擅長的自然運算進行優化。雖然破缺同構型物理神經網絡為利用物理系統的原生變換進行機器學習提供了途徑，但研究者仍需通過逐例耗時評估，才能判斷特定硬件的變換是否適合神經網絡計算。

此外，神經形態與物理形態的平衡是物理神經網絡面臨的核心挑戰。針對特定硬件——如互補金屬氧化物半導體（CMOS）、電子或光子物理神經網絡——的優化設計與訓練算法，其關鍵特性可能與人腦存在顯著差異。如何在借鑒神經形態的啟發同時，充分契合實際硬件的物理特性，是解決兩者矛盾的關鍵所在。

在這項研究中，研究團隊主要關注大型模型的推理問題，這是物理神經網絡最實際、最有潛力的應用方向。也就是說，利用物理系統驅動的神經網絡，不僅在能耗上可能比傳統方法更有優勢，還可能在計算規模和速度上取得進一步提升。雖然物理神經網絡多在模擬電子或光子系統中研究，但它們最大的亮點在于平臺幾乎不受限制：只要物理系統可重構，都可以用來搭建物理神經網絡。

從應用來看，物理神經網絡面臨的挑戰不是找到唯一“最好”的訓練方法，而是針對不同場景選出最合適的方案，并理解各種方法之間的取舍。未來的突破，很可能來自于開發既通用、高效，又魯棒的訓練方法，讓物理神經網絡真正走進實際應用場景。

整理：小瑜

如需轉載或投稿，請直接在公眾號內留言

智譜上線 Glm Coding Plan

20 元包月，「1/7 價格、3 倍用量」

暢享 Claude Code 編碼體驗

開發者用了都說好

歡迎體驗～