今天,月之暗面正式向業界發布 Kimi K3,這也是目前我們技術棧中性能頂尖的模型產品。該模型參數量達 2.8 萬億,核心架構創新性地引入了 KDA 混合線性注意力機制(Kimi Delta Attention)以及注意力殘差(Attention Residuals)設計。
據介紹,在功能層面,Kimi K3 不僅實現了對視覺信息的原生感知,更具備 100 萬 token 的長上下文處理能力。作為全球首個開源的萬億級(3T)參數模型,其設計初衷是為深度代碼開發、復雜知識處理及高階邏輯推理等高難度場景賦能。
在性能比對方面,盡管對比 Claude Fable 5 和 GPT-5.6 Sol 這類閉源頂尖模型,Kimi K3 在某些維度上尚存差距,但根據我們實驗室的綜合評估結果,它已處于行業一線水準,且在大部分評測集上均優于市場同類開源模型。
值得一提,在新聞稿中,月之暗面還透露,公司基于Kimi k3設計了一顆芯片。
據介,作為早期概念驗證,Kimi K3 設計了一款芯片,用于運行一個基于自身架構構建的 nano 模型。在連續 48 小時的自主 Agent 運行中,K3 基于開源 EDA 工具和 Nangate 45nm 工藝庫,獨立完成了芯片的構建、優化與驗證。該芯片面積 4 mm2,集成 146 萬個標準單元、0.277 MB SRAM 以及帶融合反量化的 INT4 MAC 陣列,在 100 MHz 下完成時序收斂,仿真解碼吞吐持續超過每秒 8,700 個 token。一顆由模型設計、為模型服務的芯片,正是 K3 長程 Agent 能力的寫照。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.