自己服務(wù)器跑AI代理，這個(gè)開源方案把成本打下來了

周五深夜，一位運(yùn)維老哥盯著賬單上的大模型接口費(fèi)用，甩了一句：“這幫廠商把我們當(dāng)韭菜。”他轉(zhuǎn)身把一臺(tái)閑置的2U服務(wù)器拖出倉庫，插電、裝系統(tǒng)、部署了一套剛開源的東西。第二天早上，他在同一臺(tái)機(jī)器上同時(shí)跑著12個(gè)AI代理，每個(gè)都隔離在自己的微型虛擬機(jī)里，賬單為零。

這套東西叫OpenClaw Machines，昨天剛在Hacker News露面我們就跟進(jìn)了。一句話說清楚它干嘛的：讓你在自己硬件上跑任意數(shù)量的OpenClaw AI代理，每個(gè)跑在獨(dú)立的Firecracker微型虛擬機(jī)里，硬件級(jí)隔離，不是容器那種軟隔離。所有代碼Apache-2.0開源，剛剛放出公開核心版本。

整個(gè)架構(gòu)拆開看，幾個(gè)關(guān)鍵組件：控制平面用Go寫的API層，PostgreSQL管賬戶、機(jī)器、主機(jī)，負(fù)責(zé)調(diào)度、生命周期、備份和持久化工作流；主機(jī)代理ocm-agent在你登記的Linux機(jī)器上啟動(dòng)、監(jiān)控、回收Firecracker微虛擬機(jī)，橋接網(wǎng)絡(luò)和根文件系統(tǒng)全自動(dòng)搞定；每臺(tái)主機(jī)配一個(gè)LiteLLM代理，統(tǒng)一管模型密鑰，支持自帶密鑰，按機(jī)器粒度追蹤用量，也可以連本地部署的開源模型。

安全方案做得挺狠。每個(gè)代理一個(gè)Firecracker微虛擬機(jī)，獨(dú)立客戶內(nèi)核，跑在KVM硬件邊界之上。認(rèn)證在邊緣側(cè)先攔一道，進(jìn)入虛擬機(jī)內(nèi)部再驗(yàn)證一次。用戶到虛擬機(jī)的流量走Cloudflare數(shù)據(jù)平面，每臺(tái)機(jī)器分配獨(dú)立子域名，隧道終止在虛擬機(jī)內(nèi)部，宿主機(jī)端口一個(gè)都不暴露給外界。控制平面目前還需要通過9090端口訪問每個(gè)代理的認(rèn)證API，這部分得走私有網(wǎng)絡(luò)或防火墻限制。

虛擬機(jī)里面跑什么？OpenClaw運(yùn)行時(shí)全套：認(rèn)證代理、網(wǎng)頁聊天網(wǎng)關(guān)、實(shí)時(shí)終端、基于制品驅(qū)動(dòng)的運(yùn)行態(tài)更新流程。瀏覽器運(yùn)行時(shí)也帶上了，配對(duì)的Chromium瀏覽器虛擬機(jī)，CDP路由加上可觀看的實(shí)時(shí)視圖。工作區(qū)集成支持GitHub、Google Workspace、OpenAPI、GraphQL，還有遠(yuǎn)程MCP工具，工作區(qū)配一次，所有機(jī)器通過OCM的MCP外觀層就能調(diào)用。

成本這事得算清楚。租一臺(tái)裸金屬服務(wù)器，能塞多少代理就跑多少，不像按接口付費(fèi)的大模型服務(wù)，跑得越多單價(jià)越難算。作者拿了一張對(duì)比表出來，同規(guī)格硬件上不同方案的代理密度差了好幾倍。更狠的一招：把代理流量路由到自己GPU上跑的開源模型，連接口調(diào)用費(fèi)都省了，一趟算下來Token開銷大打折扣。

OCM命令行工具放在mathaix/ocm-cli倉庫，同樣Apache-2.0許可。構(gòu)建流水線也開源了，每個(gè)組件的構(gòu)建命令、GCS制品桶的布局、主機(jī)配置腳本、發(fā)布通道，全在倉庫里。你想從源碼編譯出一整套部署包，照著走就行。

我們看了43秒的演示視頻。從主機(jī)注冊(cè)、代理啟動(dòng)、Firecracker虛擬機(jī)終端實(shí)時(shí)操作，到工作區(qū)MCP集成、代理工具調(diào)用的完整鏈路，一氣呵成。不是概念驗(yàn)證，是能跑在生產(chǎn)環(huán)境的東西。演示里那臺(tái)機(jī)器同時(shí)跑著好幾個(gè)代理，終端窗口一切換就能看到每個(gè)虛擬機(jī)里面的活。

主權(quán)這兩個(gè)字在安全圈喊了很多年，真把控制權(quán)交回用戶手里的方案沒幾個(gè)。你自己的硬件、你自己的數(shù)據(jù)、你自己的密鑰。控制平面和工作節(jié)點(diǎn)跑在你的機(jī)器上，模型流量經(jīng)過你的LLM代理，想接哪個(gè)提供商接哪個(gè)，或者直接用你自己GPU上部署的模型。代碼全開，Apache-2.0許可不卡商用。這套架構(gòu)的設(shè)計(jì)思路就是讓你不再看云廠商的臉色。