打破CUDA護城河

公眾號記得加星標??，第一時間看推送不會錯過。

英偉達主要以硬件公司而聞名，這得益于其GPU的巨大成功。但英偉達在軟件領域也舉足輕重，這要歸功于其CUDA編程語言，該語言已成為人工智能和高性能計算開發人員的事實標準。如今，Spectral Compute的一群CUDA專家正致力于將CUDA語言從英偉達平臺剝離出來，使用戶能夠在其他芯片上運行他們的CUDA代碼。

Spectral Compute成立于2018年，當時包括首席執行官Michael S?ndergaard、首席技術官Chris Kitching、軟件工程師Nicholas Tomlinson和軟件工程師Francois Souchay在內的四位工程師，厭倦了CUDA代碼的硬件鎖定問題。這四位創始人擁有60年的高性能計算（HPC）優化經驗，他們之前就職于一家人工智能公司，但對英偉達GPU的高昂成本以及其他編譯器的糟糕性能感到極度不滿，于是決定自行開發編譯器。

創始人開發了一款名為SCALE的產品，它采用 CLang 和 LLVM 編譯器技術，旨在替代英偉達 CUDA 編譯器 NVCC。SCALE 最初的目標是AMD GPU，但現在正拓展其目標，使用戶能夠在其他 AI 加速器上運行 CUDA。該公司也支持英偉達 GPU，其理論是英偉達為了銷售更多硬件而放棄了基于軟件的性能優化。

Spectral 是 CUDA 的忠實擁躉。據 Spectral 增長主管 Giulio Malitesta 稱，CUDA占據了當前 HPC 代碼的約 80%。Malitesta 在德國漢堡舉行的 ISC 2026 大會上告訴HPCwire ：“CUDA 基本上是 HPC 的事實標準。我們需要接受這個事實，作為編譯器工程師，我們只需努力使其能夠在不同的平臺上運行，這些平臺不一定是 Nvidia 的，但也要在 Nvidia GPU 上進行改進。”

正如Malitesta指出的那樣，市面上還有其他編譯器可以讓 CUDA 代碼在其他平臺上運行。AMD開發了一款名為HIPIFY的工具，可以將 Nvidia CUDA 代碼轉換為 C++ 代碼，并通過 HIP（異構計算接口）在 AMD 的 ROCm 軟件棧上運行。此外，還有SYCLomatic ，這是一款最初由Intel開發的開源工具，用于將 CUDA 代碼遷移到數據并行 C++ (DPC++)。當然，還有ZLUDA，這款曾經由 AMD 支持的即時編譯器可以將 CUDA 二進制文件編譯后在非 Nvidia 硬件上運行。

然而，大多數工具都有其缺點。例如，Spectral 的創始人之前曾使用過的 HIPIFY，基本上忽略了并行線程執行 (PTX)，而 PTX 是英偉達的匯編語言，能夠為 CUDA 提供深度硬件支持，Malitesta 指出。SYCLomatic 可以遷移大約 90% 的代碼，但剩余的 10% 需要手動完成。而 ZLUDA 則直接操作編譯后的二進制代碼，充當中間件層，這會降低性能。此外，各種非英偉達的 CUDA 編譯器也一直受到法律問題的困擾。

Malitesta表示，Spectral Compute的SCALE編譯器能夠超越其他編譯器的中等性能，并使CUDA能夠充分利用底層硬件。該公司在其網站上發布的基準測試表明，與使用HIPIFY將CUDA代碼轉換為AMD自家的ROCm環境相比，SCALE在AMD GPU上實現了近6倍的性能提升。

Malitesta表示，Spectral之所以能夠達到如此高的性能水平，是因為它基于尖端的編譯器框架進行了徹底的重新實現。“我們采用了CPU行業標準的方法，并將其應用于GPU，”他說道，并補充道，“這種方法也使得C++能夠在AMD和ARM CPU上運行，因為沒有人會預期會出現性能差距，除非底層硬件的差異直接導致這種差距。”

Spectral公司在重新編譯代碼后，會從數值角度驗證其正確性。如果驗證結果與正常的NVCC輸出一致，則該公司認為此次實現成功。

總部位于倫敦的Spectral公司去年融資600萬美元，目前正致力于支持第三方AI加速器（尚未公布具體名稱）。該公司還在開發一些專有的新型編譯器優化技術，據稱這將為在Nvidia GPU上運行CUDA的用戶帶來重大升級。本月晚些時候，Spectral預計將發布對PyTorch的支持，這將使其工具能夠更好地與該AI和機器學習框架協同工作。

公司員工表示，他們的工作對 CUDA 社區有益，就連英偉達也明白這最終是一件好事。今年 6 月，Spectral 與英偉達正式建立合作伙伴關系，并加入了英偉達的 Inception 項目。

Spectral學術解決方案和業務發展主管魯本·范·東根表示：“我們與英偉達和AMD的關系都很好。當然，我們希望與整個行業保持友好關系。我們保持中立，真正意義上的中立。”

Spectral 目前已支持核心 CUDA 產品，但還有數百個專門的 CUDA 庫，例如支持深度神經網絡的 cuDNN、支持張量的 cuTENSOR 以及支持 Polar 和 pandas 等數據幀的 cuDF。該公司正在積極努力，以增加對這些專門 CUDA 庫的支持。

SCALE 上市至今僅兩年左右，因此該公司發展歷史尚短。然而，該公司發展迅速，目前擁有約 30 名員工，并正在尋求擴張。Spectra 向商業機構出售 SCALE 的使用權限，同時向學術機構和非營利組織免費提供編譯器工具包。

Spectral正與世界各地的公司、大學和實驗室合作，幫助他們將CUDA開發成果應用于更多硬件平臺。SCALE甚至已在橡樹嶺國家實驗室的百億億次級超級計算機Frontier上運行。

“未來前景一片光明。我們正在解決業內一個重大難題，”范東根說道。“尤其是在研究領域，研究人員時間非常有限。他們無需重寫整個代碼庫或從現有代碼庫移植代碼，只需使用我們的解決方案重新編譯，甚至還能提升性能。”

隨著高性能計算 (HPC) 社區逐漸適應人工智能蓬勃發展和 GPU 計算快速普及帶來的非凡變革，我們不妨花些時間思考所有可能的未來發展路徑。英偉達是一家卓越的公司，它推動了 GPU 制造和并行軟件開發（通過 CUDA）的諸多進步，并因此獲得了豐厚的回報，成為全球首家市值 5 萬億美元的公司。

英偉達當然希望將這些人工智能領域的“金蛋”牢牢掌握在自己手中，但這未必符合高性能計算和人工智能客戶以及整個計算生態系統的最佳利益。從這個角度來看，Spectral 的做法對大家都有好處。更令人驚訝的是，像 Spectral 這樣致力于跨越 CUDA 護城河的公司竟然不多。

（來源：編譯自hpcwired ）

*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯系半導體行業觀察。

今天是《半導體行業觀察》為您分享的第4465內容，歡迎關注。

加星標??第一時間看推送

求推薦