![]()
Ollama公司是連接開發者與開源模型的最大AI平臺,近日宣布完成6500萬美元新一輪融資,本輪融資由Theory Ventures領投。
Benchmark、8VC、Y Combinator、Pace Capital、49 Palms、GTMFund及其他投資機構和天使投資人也參與了本輪B輪融資。至此,公司累計融資總額達到8800萬美元。
Ollama為AI開發者和工程師提供了一款易于本地使用的工具。用戶只需一條命令,即可在本地硬件上下載并部署AI模型,或在Ollama云端運行更強大的模型。
創始人兼首席執行官Jeffrey Morgan表示:"開源模型應該易于運行、易于構建,并且隨時隨地可用——無論是在本地機器、云端,還是兩者兼用。Ollama最初是一個開源項目,如今已發展成為一個擁有數百萬開發者的龐大社區。"
自2023年上線以來,該工具每月活躍開發者數量已超過890萬,成為開源模型生態中規模最大的平臺,累計集成數量超過67,000個。公司表示,其用戶覆蓋了85%的《財富》500強企業,客戶廣泛分布于政府、醫療和金融等強監管行業。
在前端層面,Ollama提供圖形用戶界面和命令行界面,讓用戶能夠方便地在本地和云端激活、測試模型。
該工具最初以提供本地AI模型和云端模型API連接器為核心功能,后來轉型推出新云端推理服務,并將其原生集成到產品中。用戶可注冊免費套餐,享有GPU算力使用時長,訂閱方案最高每月100美元。
Ollama的云端推理定價模式與Together Computer、Fireworks AI、Groq等面向開發者的AI云推理服務商形成競爭,這些服務商均以按Token計費的方式提供大模型訪問服務。
Ollama的差異化優勢在于,其云端服務是本地運行工具的延伸。開發者可以使用同一條命令、同一套兼容OpenAI接口的API,僅通過修改一個參數,就能從本地7B模型無縫切換至400B云端模型,實現工作流的連貫銜接,無需另行建立獨立的云端接入關系。
通過廣泛的合作伙伴網絡,Ollama能夠在新模型發布當天為開發者提供訪問權限,用于實驗、測試和應用構建。目前平臺收錄的開源模型包括GLM、Nemotron、DeepSeek、Kimi和MiniMax等。
公司表示,云端Token處理量平均每月實現翻倍增長。
不過,GPU使用時長計費方式較難預測,相較之下,按Token計費更易于成本管控。Fireworks等專業服務商還提供極高速、低延遲的訪問體驗,而Groq和Together等大目錄服務商則在前沿模型的高可用性方面更具優勢。
Ollama的直接競爭對手包括LM Studio——一款界面精良、支持模型瀏覽、對話和可視化調優的圖形工具。許多開發者將Ollama用作底層運行時,用于腳本編寫、服務器搭建和應用開發;而LM Studio則更受偏好圖形界面的用戶青睞,常用于探索和實驗。其他競品還包括:llama.cpp(Ollama本身所基于的底層推理引擎)、vLLM(面向生產環境的多GPU推理工具)、Jan(一款完全開源、類ChatGPT風格的云AI桌面應用),以及MLX(專為蘋果芯片設計的AI工具)。
此外,許多開發者將Ollama用作應用后端或其他界面的驅動引擎,例如AnythingLLM(一款按項目配置的檢索增強生成工作區,集成了完整的對話和智能體客戶端)、Open WebUI(一款廣受歡迎的Ollama客戶端,可自托管類ChatGPT界面,支持RAG、語音和插件功能),以及OpenClaw、Hermes等本地AI智能體工具。
Q&A
Q1:Ollama是什么?主要面向哪些用戶?
A:Ollama是一款面向AI開發者和工程師的開源工具平臺,用戶只需一條命令即可在本地硬件上下載并運行AI模型,也可切換至云端運行更大規模的模型。它支持圖形界面和命令行兩種操作方式,廣泛適用于腳本編寫、服務器搭建和應用開發等場景,目前每月活躍開發者超過890萬。
Q2:Ollama的云端推理服務怎么收費?
A:Ollama提供免費套餐,用戶可獲得一定的GPU算力使用時長;付費訂閱方案最高每月100美元。其定價模式采用按Token計費,與Together Computer、Fireworks AI、Groq等云推理服務商類似,但Ollama的核心優勢在于本地與云端工作流的無縫銜接,開發者無需切換工具或重建云端接入關系。
Q3:Ollama和LM Studio有什么區別?
A:兩者定位不同。Ollama更偏向底層運行時,適合用于腳本、服務器和應用開發,是開發者構建AI應用的"引擎";LM Studio則提供精美的圖形用戶界面,適合用于模型瀏覽、對話測試和可視化參數調整,更適合偏好GUI操作的用戶進行探索和實驗。兩者可互補使用。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.