![]()
7月18日,阿里平頭哥半導體宣布,自研的 AI 軟件棧 T-Head SAIL? 正式開源,向全球開發者開放高效、開放的AI算力基礎設施核心能力。
作為自主算力新標桿,真武AI芯片憑借卓越算力與數據中心系統級全棧協同生態,高效助力將AI算力落地為生產力,為千行百業智能化進程注入澎湃動能。T-Head SAIL 是平頭哥為真武系列 AI 芯片打造的軟件棧,擁有自主知識產權、全面兼容主流 AI 生態。軟件棧覆蓋 OS 層、SDK 層與接口層的完整鏈路——向下釋放真武硬件算力,向上承接上層應用需求。
![]()
截至今年4月,真武 AI 芯片已累計出貨56萬片,服務20多個行業400多家客戶。真武 AI 芯片及 T-Head SAIL 軟件棧已在阿里云及多家頭部客戶的真實生產環境中歷經深度打磨,扛過大規模流量、復雜場景以及嚴苛 SLA 的多重考驗。
平頭哥將這套經過嚴苛生產驗證的 T-Head SAIL 軟件棧方案開放給整個開發者社區。“開源不是終點,而是生態共建的起點。我們相信,真正的AI創新不應被封閉的技術壁壘所限。我們誠邀全球開發者、科研機構及產業伙伴一起,共同打磨工具鏈、豐富算子生態、優化性能體驗,讓每一行新代碼都成為進一步推動AI普惠的新力量。”平頭哥在新聞稿中寫道。
真武AI芯片開發完整基座
![]()
從底層驅動到上層工具,T-Head SAIL軟件棧由五層完整的技術棧組成,致力為開發者提供完整、可靠、開箱即用的開發體驗。
Driver與Runtime層
PPU Driver分為內核態的KMD與用戶態的UMD,配合PPU Runtime提供統一的設備管理和內存管理接口。
編程語言層
完整支持C/C++與Python,開發者無需學習新的語言或編程范式,支持現有代碼資產平滑遷移。
編譯器層
包含Compiler與Debugger兩大組件,構建完整的開發閉環。
高性能庫層
全面覆蓋主流計算需求,為各類計算場景提供對應的高性能實現:
計算庫涵蓋acBLAS、acDNN、acFFT、acRAND、acSOLVER、acSPARSE六大核心數學庫,為大模型訓練與推理提供支撐;
編解碼庫覆蓋HGDEC、HGENC、HGJPEG與HGPP,滿足多模態數據處理的高吞吐需求;
集合通信庫包含PCCL與sailSHMEM,專為多卡、多機分布式訓練設計,助力突破通信瓶頸;
此外配備acext擴展庫與HGML機器學習庫,拓展豐富功能邊界
開發者工具層
豐富相應配套工具,賦能從單卡調試到千卡運維的全鏈路掌控:
Asight Compute支持算子級精細性能分析,幫助定位微觀瓶頸;
Asight Systems面向系統級全棧Profiling,提供宏觀視角;
PPU-SMI實現設備實時監控與管理;
PPU-DCGM支撐集群級別的資源智能調度
面向開發者體驗的軟件棧
無需重寫代碼,讓既有資產無縫延續
T-Head SAIL兼容主流AI生態,主流模型即開即用,算子庫完整對標,主流編程模型高度兼容。開發者過去積累的經驗、代碼、調優技巧,在 T-Head SAIL上都能直接復用,業務遷移僅需極少量代碼適配修改、平滑順暢。
無需等待適配,與前沿生態同頻演進
AI技術迭代日新月異,平頭哥自研推理引擎提供開箱即用的生產級性能,同時T-Head SAIL已完善建立與主流社區同頻的響應機制,框架跟進、新模型適配速度迅捷極速。目前主流AI推理框架,T-Head SAIL平均適配時間<7天,開發者無需額外適配和調優,即可使用前沿最新的算子、特性與優化手段。
無需綁定框架平臺,為開發提供靈活選擇
T-Head SAIL 已全面適配PyTorch、TensorFlow、vLLM、SGLang等260余個主流訓練與推理框架,開發者獲取源碼后即可直接編譯運行,無需額外適配。T-Head SAIL支持按需靈活選用工具鏈,不綁定任何特定技術路線,保障技術選型的自主與開放。
智算無界,共行致遠
平頭哥開發者社區網站現已同步上線,匯聚 T-Head SAIL 全棧技術文檔,提供 SDK 軟件包、內核驅動、性能分析和調試工具下載,為開發者提供一站式服務。
▼ 社區地址:
https://developer.t-head.cn/home
平頭哥表示,將持續投入社區建設,確保 T-Head SAIL 開源項目健康、可持續發展。在即將推進的二期建設中,將開源通信庫相關軟件并同步開放v2.2版本Docker與PIP源,同時開發者社區網站將上線開發者論壇板塊,搭建起平頭哥與社區、開發者與開發者之間的常態化交流平臺;三期將進一步開源計算加速庫和推理引擎軟件,并開放v2.3版本Docker與PIP源。未來,還將有更多更新與社區活動上線,敬請關注。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.