網(wǎng)易首頁 > 網(wǎng)易科技 > 網(wǎng)易科技 > 正文

Kimi K3開放權(quán)重，引爆海外社區(qū)，想本地部署，200萬元起

2026-07-28 16:03:21　來源: 網(wǎng)易智能

北京舉報

分享至

出品 | 網(wǎng)易智能

作者 | 小小

編輯 | 王鳳枝

月之暗面沒有食言，準(zhǔn)時開放了Kimi K3的完整模型權(quán)重。

7月27日，在首秀11天后，這家中國AI初創(chuàng)公司將Kimi K3的完整模型權(quán)重上傳至Hugging Face。

這批總規(guī)模約1.56TB的權(quán)重文件，很快在開發(fā)者社區(qū)引發(fā)關(guān)注，并在短時間內(nèi)登上平臺趨勢榜首。不過，權(quán)重免費不等于零成本：有人指出想讓這個2.8萬億參數(shù)模型跑起來，至少需要200萬元硬件投入；若要提供商業(yè)API服務(wù)，門檻則在1500萬元左右。

但這次交付的意義仍然遠超一次普通的權(quán)重釋放。

從模型權(quán)重到底層算子，從訓(xùn)練沙盒到一份詳盡的47頁技術(shù)報告，月之暗面把構(gòu)建和訓(xùn)練K3所需的大量工程能力擺上了臺面；與此同時，一份精心設(shè)計的許可證，也為這場開放劃定了商業(yè)邊界。

熱鬧的社區(qū)狂歡背后，月之暗面試圖回答一個更大的問題：開放權(quán)重模型，如何在擴大生態(tài)的同時，找到可持續(xù)的商業(yè)回報？

這既是一場技術(shù)開放實驗，也是一次商業(yè)模式探索。

01不是只給"魚"，連"漁具"也一并打包

對于熟悉K3首次亮相的人來說，參數(shù)規(guī)模（總參數(shù)2.8萬億，激活參數(shù)1040億）和跑分已經(jīng)不是新聞。

此次發(fā)布的真正增量，在于月之暗面選擇了"給魚又給漁"的開放策略。它不僅交付了模型權(quán)重本身，還將訓(xùn)練和部署這個龐大模型所需的三項核心基礎(chǔ)設(shè)施（MoonEP、FlashKDA和AgentENV）一并開放，并附上一份47頁技術(shù)報告。這在當(dāng)前開放模型生態(tài)中并不常見。

首先，核心交付是完整的模型權(quán)重文件，包含K3的文本和視覺編碼器（MoonViT-V2）的相關(guān)參數(shù)。擁有足夠算力的團隊可以自行部署并研究這一模型。

但真正讓業(yè)界關(guān)注的，是隨權(quán)重一同發(fā)布的技術(shù)報告。這份報告并非簡單展示性能成績，而是披露了K3從架構(gòu)設(shè)計、訓(xùn)練策略到數(shù)據(jù)處理的一系列技術(shù)細(xì)節(jié)。

全棧開發(fā)者 @TypicalBryan735評論說，放棄注意力內(nèi)核、MoE通信庫和代理沙盒基礎(chǔ)設(shè)施，同時開放權(quán)重，這才是真正推進開放模型生態(tài)的方式。

除了權(quán)重文件，月之暗面還開放了三項基礎(chǔ)設(shè)施技術(shù)，分別解決通信、算子優(yōu)化和智能體訓(xùn)練環(huán)境問題，對應(yīng)了訓(xùn)練和部署超大規(guī)?；旌蠈＜夷Ｐ蜁r的幾個關(guān)鍵瓶頸。

MoonEP瞄準(zhǔn)的是混合專家模型訓(xùn)練中常見的"負(fù)載不均"問題。K3內(nèi)部有896個路由專家，每處理一個token，系統(tǒng)只激活其中16個專家。這種設(shè)計能夠擴大模型規(guī)模，同時控制實際計算量，但也帶來新的挑戰(zhàn)：不同專家的調(diào)用頻率不同，可能導(dǎo)致部分GPU負(fù)載過高，另一部分資源閑置。

傳統(tǒng)方案通常需要額外的數(shù)據(jù)交換和調(diào)度機制。MoonEP通過優(yōu)化專家分配和通信方式，提升不同計算節(jié)點之間的負(fù)載均衡效率，減少訓(xùn)練過程中的通信浪費。

在訓(xùn)練超大規(guī)模MoE模型時，MoonEP有望提高計算資源利用率，并降低訓(xùn)練成本。

如果說MoonEP解決的是算力調(diào)度問題，FlashKDA則聚焦于計算效率。

Kimi Delta Attention（KDA）是K3處理百萬token長上下文的重要技術(shù)之一，但其計算方式也帶來了新的工程挑戰(zhàn)。KDA具有"塊內(nèi)并行、塊間串行"的特點：塊內(nèi)計算可以并發(fā)，但不同計算塊之間的信息狀態(tài)需要連續(xù)傳遞。如果按照傳統(tǒng)方式處理，GPU會在計算和狀態(tài)傳遞之間產(chǎn)生等待。

FlashKDA是月之暗面針對KDA設(shè)計的高性能算子庫。它將計算過程拆分成不同流水線，讓塊內(nèi)計算和狀態(tài)傳遞能夠更高效地并行執(zhí)行。這就像廚房里，一個廚師負(fù)責(zé)炒菜，另一個廚師負(fù)責(zé)傳菜，而不是同一個人炒完一道菜再端出去。

在英偉達H20芯片測試中，F(xiàn)lashKDA的預(yù)填充速度相比相關(guān)基線方案提升明顯。更重要的是，F(xiàn)lashKDA已經(jīng)成為相關(guān)開源項目可選的后端方案之一，它的價值并不局限于K3本身。

專注AI工具構(gòu)建的開發(fā)者 @Andrii38324276指出，僅開放權(quán)重只能讓開發(fā)者運行模型，而開放底層內(nèi)核，才真正讓社區(qū)有機會理解和改進訓(xùn)練效率。

第三項基礎(chǔ)設(shè)施AgentENV，展示了K3訓(xùn)練中的另一個關(guān)鍵環(huán)節(jié)：如何為AI智能體提供穩(wěn)定、可規(guī)?；脑囧e環(huán)境。

K3強化學(xué)習(xí)訓(xùn)練需要智能體在接近真實工作的環(huán)境中反復(fù)執(zhí)行任務(wù)，例如讀寫文件、運行代碼、調(diào)用工具。早期方案采用容器搭建沙盒環(huán)境，但團隊發(fā)現(xiàn)，智能體的一些非預(yù)期操作可能導(dǎo)致系統(tǒng)崩潰，隔離能力并不足夠。

于是，AgentENV采用了Firecracker microVM作為底層環(huán)境。這種輕量級虛擬機技術(shù)能夠提供更強隔離能力，讓智能體擁有類似獨立計算環(huán)境的空間進行試錯。為了支持大規(guī)模訓(xùn)練，AgentENV還優(yōu)化了沙箱創(chuàng)建、暫停和恢復(fù)流程。

月之暗面披露，在K3訓(xùn)練和評估過程中，這套系統(tǒng)創(chuàng)建了超過5121萬個沙箱，覆蓋150多萬個鏡像。 此次開放，意味著開發(fā)者不僅可以獲得一個模型，也可以參考一套經(jīng)過大規(guī)模驗證的智能體訓(xùn)練基礎(chǔ)設(shè)施。

這三項基礎(chǔ)設(shè)施的開放，讓K3與許多只開放權(quán)重的模型有所區(qū)別。

過去，開放模型通常意味著開發(fā)者"可以使用"模型，但訓(xùn)練和優(yōu)化模型背后的工程能力，仍然掌握在少數(shù)實驗室手中。月之暗面此次交出的，不只是模型本身，還包括一部分支撐模型訓(xùn)練和部署的工具鏈。

對于開發(fā)者而言，這意味著他們獲得的不只是一個可調(diào)用的模型，也是一套可以進一步研究、修改和復(fù)用的工程資源。

02開放新范式：營收掛鉤許可證，在開放與商業(yè)之間走鋼絲

K3的發(fā)布，也讓"開放權(quán)重"和傳統(tǒng)意義上的"開源"之間的區(qū)別再次成為焦點。

隨模型權(quán)重一同發(fā)布的Kimi K3許可證，因其獨特的商業(yè)限制條款，迅速成為討論中心。

這份許可證的大部分內(nèi)容接近寬松開源許可，允許用戶使用、修改、分發(fā)甚至基于模型開發(fā)產(chǎn)品。但它附加了兩個關(guān)鍵條件。

第一，經(jīng)營模型即服務(wù)（Model as a Service）業(yè)務(wù)，且自身及關(guān)聯(lián)方年營收超過2000萬美元的公司，需要另行簽訂商業(yè)協(xié)議。

第二，如果任何商業(yè)產(chǎn)品或服務(wù)的月活躍用戶超過1億，或者月收入超過2000萬美元，則需要在界面顯著位置展示"Kimi K3"標(biāo)識。

這兩項限制不適用于企業(yè)內(nèi)部自用，也不適用于通過月之暗面官方產(chǎn)品或認(rèn)證合作伙伴訪問模型的場景。也就是說，這套許可證主要針對的是達到一定商業(yè)規(guī)模、并直接向第三方提供模型推理或微調(diào)服務(wù)的企業(yè)。普通企業(yè)內(nèi)部使用模型，或者將模型能力嵌入自身產(chǎn)品功能的部分場景，并不一定觸發(fā)額外商業(yè)協(xié)議。

正如Interconnected Capital的Kevin Xu所指出的，這種做法讓人聯(lián)想到MongoDB等公司為防止云廠商直接轉(zhuǎn)售其成果而采用的定制許可證。

過去，一些開源軟件公司曾面臨類似問題：代碼開放后，云服務(wù)商可以直接基于這些成果提供商業(yè)服務(wù)，而原始開發(fā)者卻難以獲得對應(yīng)收益。K3許可證的思路，本質(zhì)上是在開放生態(tài)和商業(yè)回報之間尋找一個平衡點。

開發(fā)者對此總體持積極態(tài)度，但也有不同聲音。

AI研究者內(nèi)森·蘭伯特（Nathan Lambert）總結(jié)道，這份許可證受到MIT許可啟發(fā)，但加入了明顯的商業(yè)限制。因此，從嚴(yán)格定義來看，它更接近"開放權(quán)重"而非傳統(tǒng)意義上的"開源"。

X用戶 @peterom則持更務(wù)實的觀點。他認(rèn)為，資本主義和開放生態(tài)并不一定矛盾，Kimi這種模式可能是一種新的平衡方式。他預(yù)測，未來幾年可能會出現(xiàn)多家開放模型公司實現(xiàn)大規(guī)模商業(yè)收入，而"開放模型無法賺錢"的觀點也會逐漸被重新審視。

不過，這條精心設(shè)計的商業(yè)邊界，也讓K3進入了另一個更復(fù)雜的討論領(lǐng)域：監(jiān)管。

出口管制專家、前拜登政府官員彼得·哈雷爾（Peter Harrell）曾分析，單純下載和使用開放權(quán)重模型，可能被視為受保護的信息傳播，美國政府直接干預(yù)的法律基礎(chǔ)并不明確。

但K3許可證改變了一部分情況：當(dāng)一個大型云服務(wù)商希望將K3模型能力作為商業(yè)服務(wù)提供時，它需要與月之暗面建立明確商業(yè)關(guān)系。一個原本只是"下載模型"的行為，可能轉(zhuǎn)變?yōu)樯虡I(yè)交易。而商業(yè)交易，也意味著更明確的監(jiān)管邊界。

如果美國商務(wù)部未來依據(jù)相關(guān)規(guī)則限制某些交易，或者將月之暗面列入制裁名單，這類商業(yè)協(xié)議可能成為監(jiān)管關(guān)注的對象。

這也構(gòu)成了K3開放策略中的一個微妙矛盾：開放可以擴大生態(tài)，但商業(yè)化會帶來新的監(jiān)管關(guān)系。當(dāng)月之暗面希望在保持開放屬性的同時獲得更多商業(yè)回報時，它需要面對一個新的平衡問題：有營收，就意味著更容易進入監(jiān)管視野。

03開放了，然后呢？從200萬到1500萬的部署賬單

如果說許可證解決的是"誰可以免費使用、誰需要付費"的商業(yè)問題，那么接下來面對的是另一個更加現(xiàn)實的問題：即使拿到了免費權(quán)重，K3到底有多少人真正跑得起來？

模型權(quán)重可以免費下載，但這1.56TB文件一旦落地，就立刻變成了一道昂貴的硬件門檻。

小紅書博主"平凡v97"根據(jù)公開方案，對K3部署成本進行了估算，并將其分成兩個層級。

第一個層級，是"讓模型運行起來"。AMD此前公布的驗證方案提供了一個參考：8張MI355X，每張擁有288GB顯存，總顯存約2.3TB。按照當(dāng)前硬件價格估算，這套配置的服務(wù)器成本約為170萬至240萬元。如果進一步考慮服務(wù)器、散熱、機房和運維成本，總投入可能超過200萬元。

但這解決的只是"能運行"。

如果目標(biāo)是提供商業(yè)API服務(wù)，要求會完全不同。商業(yè)部署需要考慮多用戶并發(fā)、百萬token上下文處理、穩(wěn)定響應(yīng)延遲、故障切換以及長期運行成本。

因此，月之暗面在技術(shù)文檔中建議，生產(chǎn)環(huán)境采用64張以上加速卡組成的部署方案。按照類似硬件規(guī)模估算，商業(yè)級集群投入可能達到1400萬至1900萬元。

也就是說：200萬元，可能讓模型跑起來；1500萬元左右，才接近商業(yè)化服務(wù)的起點。

也有外國網(wǎng)友吐槽：“你只需要每月3萬5000美元的GPU預(yù)算，或一次性50萬美元投資，就能避開Kimi K3的99美元/月訂閱?！?/p>

不過，開放權(quán)重的意義，也正在于它允許不同玩家探索不同路徑。

Ning團隊展示了一套更偏極客路線的方案：80張RTX 5090消費級顯卡（大概需要200萬元人民幣）組成10個節(jié)點，每個節(jié)點8張卡，總顯存達到2.56TB。這套方案沒有采用AI服務(wù)器常見的HBM高帶寬顯存，也沒有使用NVLink、InfiniBand等高端互聯(lián)設(shè)備，而是依靠消費級顯卡和普通網(wǎng)絡(luò)完成運行。

測試結(jié)果顯示，K3在這套系統(tǒng)上實現(xiàn)了約20 tok/s的單流推理速度。雖然距離大型商業(yè)服務(wù)仍有差距，但它證明：一個2.8萬億參數(shù)模型，并非只能存在于少數(shù)大型數(shù)據(jù)中心。

這兩條路徑的并存，正是開放權(quán)重生態(tài)的價值所在。一端，是官方推薦的數(shù)百萬甚至上千萬元級數(shù)據(jù)中心部署；另一端，是開發(fā)者基于現(xiàn)有硬件不斷嘗試的社區(qū)方案。

開放權(quán)重并不意味著所有人都能低成本運行前沿模型。但它確實讓"如何運行模型"這個問題，有了更多探索空間。

而這也進一步引出下一個問題：K3為什么能夠在如此龐大的規(guī)模下，仍保持接近前沿模型的效率？

04架構(gòu)紅利：K3如何把規(guī)模變成效率

答案在于K3的架構(gòu)設(shè)計，它在多個層面降低了單位計算的成本。

從Kimi K2到K3，模型總參數(shù)規(guī)模擴大到近3倍。月之暗面表示，新架構(gòu)、訓(xùn)練方法和數(shù)據(jù)配方共同提升了模型的整體擴展效率，約為上一代的2.5倍。

需要注意的是，這里的"2.5倍"是月之暗面對整體擴展效率的描述，并不等同于訓(xùn)練速度提升2.5倍，也不是某一項技術(shù)單獨帶來的收益，而是多個優(yōu)化共同作用后的綜合結(jié)果。

這些優(yōu)化主要來自KDA、Attention Residuals以及Stable LatentMoE等架構(gòu)設(shè)計。

KDA：解決百萬Token上下文的效率問題

長上下文一直是大模型擴展中的核心挑戰(zhàn)。傳統(tǒng)Transformer注意力機制的計算成本，會隨著序列長度增加而快速增長。當(dāng)上下文窗口擴大到百萬token級別時，如何控制計算成本，就成為模型能否繼續(xù)擴展的關(guān)鍵。

K3的核心注意力機制KDA（前文已介紹其工程實現(xiàn)FlashKDA）在架構(gòu)層面的價值在于：它通過遞歸方式處理長程依賴，避免了傳統(tǒng)注意力機制隨序列長度平方級增長的計算開銷。同時，K3結(jié)合Gated MLA等機制，在效率和信息保留之間進行平衡。

月之暗面表示，KDA能夠顯著提升百萬token上下文場景下的推理效率。

Attention Residuals：讓深層網(wǎng)絡(luò)保持信息流動

傳統(tǒng)殘差連接主要負(fù)責(zé)將上一層的信息傳遞到下一層。但隨著模型深度增加，如何避免有效信息逐漸衰減，成為大型模型訓(xùn)練中的重要問題。

Attention Residuals允許模型根據(jù)當(dāng)前任務(wù)需要，從不同深度的表示中主動檢索信息。它不再依賴固定的信息傳遞路徑，而是讓模型擁有更靈活的信息調(diào)用方式。對于深層網(wǎng)絡(luò)而言，這有助于提高信息利用效率。

Stable LatentMoE：解決專家模型的調(diào)度難題

K3采用混合專家架構(gòu)（MoE）。模型總共有896個專家，但每個token只激活其中16個。這種設(shè)計能夠讓模型擁有更大的參數(shù)規(guī)模，同時控制實際計算成本。

但MoE架構(gòu)也帶來了新的問題：如果部分專家被大量調(diào)用，對應(yīng)計算資源會出現(xiàn)過載；而其他專家可能長期處于低利用狀態(tài)。

K3采用"分位數(shù)均衡"（Quantile Balancing）方法優(yōu)化專家路由。它并不是不斷人工調(diào)整冷門專家權(quán)重，而是根據(jù)路由分?jǐn)?shù)分布確定專家分配邊界，從而減少對啟發(fā)式更新規(guī)則和敏感平衡參數(shù)的依賴。

原生多模態(tài)與視覺能力

在視覺能力方面，K3采用MoonViT-V2視覺編碼器。

月之暗面表示，K3沒有沿用部分模型常見的視覺預(yù)訓(xùn)練路徑，而是探索通過下一token預(yù)測任務(wù)訓(xùn)練視覺編碼器。這種方式讓模型能夠在統(tǒng)一架構(gòu)下處理文本和視覺信息。

這些架構(gòu)設(shè)計最終反映在模型表現(xiàn)上。

在月之暗面公布的基準(zhǔn)測試中，K3在BrowseComp等智能體任務(wù)評測中表現(xiàn)突出，并在AutomationBench測試中取得最高成績。在SpreadsheetBench 2中，K3也以微弱優(yōu)勢領(lǐng)先。

在推理能力測試中，K3在GPQA Diamond中獲得93.5%的成績，與GPT-5.6 Sol的最高成績接近。在更貼近真實軟件開發(fā)任務(wù)的FrontierSWE測試中，K3取得81.2%的成績，高于GPT-5.6 Sol公布的71.3%。

第三方評測機構(gòu)Artificial Analysis的Intelligence Index顯示，K3獲得57.1分，進入全球前列。該榜單中，K3超過Claude Opus 4.8（max）和GPT-5.5（xhigh），排名位于Claude Fable 5和GPT-5.6 Sol之后。

需要注意的是，不同模型評測時使用的配置、工具鏈和測試方式并不完全一致，因此這些成績更適合說明K3已經(jīng)進入全球前沿競爭范圍，而不能簡單理解為全面超過所有閉源模型。

在WebDev Arena前端代碼競技場中，K3以1678分排名第一，超過Claude Fable 5。這也是目前開放權(quán)重模型在該類競技場中取得的重要突破。

更具沖擊力的是成本。K3 API價格低于部分頂級閉源模型，同時推理時只激活部分參數(shù)，并通過MoE架構(gòu)、低精度量化和KDA機制降低運行成本。

一位測試者指出，在智能體工作流中，K3的表現(xiàn)接近Claude Fable 5，但成本顯著降低。

這也是開放模型對閉源模型形成挑戰(zhàn)的關(guān)鍵：它不一定首先贏在絕對能力，而可能贏在"能力、成本和可獲得性"的綜合平衡。

05中國開放模型的新信號：從性能競爭到生態(tài)競爭

K3的發(fā)布，已經(jīng)不只是一次模型升級。

它同時展示了一個此前開放模型較少呈現(xiàn)的組合：接近全球前沿模型的性能、完整的工程工具鏈，以及明確的商業(yè)授權(quán)規(guī)則。

過去幾年，中國AI公司的競爭重點更多集中在模型能力本身：誰的參數(shù)更多，誰的跑分更高，誰的價格更低。而K3此次展示出的變化在于：競爭開始從"模型能力"延伸到"圍繞模型建立的生態(tài)"。

過去，開放模型通常意味著開發(fā)者可以下載權(quán)重、進行微調(diào)或者開發(fā)應(yīng)用。但模型訓(xùn)練背后的工程能力（例如超大規(guī)模MoE訓(xùn)練、推理優(yōu)化、智能體訓(xùn)練環(huán)境）往往仍然掌握在少數(shù)大型AI實驗室手中。

K3此次開放的不同之處，在于它同時提供了一部分支撐模型訓(xùn)練和部署的基礎(chǔ)設(shè)施：MoonEP解決MoE訓(xùn)練通信問題，F(xiàn)lashKDA提供針對KDA架構(gòu)的優(yōu)化實現(xiàn)，AgentENV提供智能體訓(xùn)練環(huán)境。

這些工具是否會形成長期生態(tài)，還需要時間驗證。但至少，它讓開發(fā)者獲得的不只是一個模型，而是一套可以繼續(xù)研究和改造的工程資源。

Hugging Face首席執(zhí)行官Clement Delangue也注意到了社區(qū)反應(yīng)。他表示，K3發(fā)布后很快登上Hugging Face趨勢榜首，社區(qū)反響非常強烈。