7月22日消息,據(jù)《The Information》報(bào)道,Meta正在內(nèi)部孵化一款名為Switchboard的模型路由工具,計(jì)劃根據(jù)任務(wù)難度,把簡單請求交給更小、更便宜的模型,較難任務(wù)再調(diào)用能力更強(qiáng)、價(jià)格更高的模型。這一項(xiàng)目仍處于早期階段,可能不會正式發(fā)布,Meta拒絕對此置評。
Switchboard來自隸屬于Meta應(yīng)用AI工程團(tuán)隊(duì)的AAI Labs,這是Meta今年3月成立的應(yīng)用AI工程團(tuán)隊(duì)(Applied AI Engineering)下設(shè)的內(nèi)部孵化器。報(bào)道援引一份7月內(nèi)部備忘錄稱,AAI Labs目前約有200個(gè)獲批項(xiàng)目,覆蓋消費(fèi)產(chǎn)品、開發(fā)工具和內(nèi)部基礎(chǔ)設(shè)施。員工可以通過這個(gè)孵化器提出面向內(nèi)部使用的AI產(chǎn)品和服務(wù),其中一些項(xiàng)目未來也可能向公眾開放。
項(xiàng)目提案直接點(diǎn)出了痛點(diǎn):Meta目前讓同一個(gè)模型處理所有編碼請求,簡單任務(wù)也要支付頂級模型的價(jià)格;如果統(tǒng)一改用便宜模型,復(fù)雜任務(wù)的效果又可能受影響。項(xiàng)目團(tuán)隊(duì)希望先給任務(wù)難度打分,再決定調(diào)用哪一個(gè)模型。
按照內(nèi)部設(shè)想,Meta可以先把Switchboard用于公司內(nèi)部,降低員工使用AI編程工具的成本;如果測試有效,未來也可能面向大規(guī)模運(yùn)行編程智能體的機(jī)構(gòu)開放。
路由工具背后的動機(jī)之一是控制成本。Meta 4月把2026年資本開支指引從1150億—1350億美元提高到1250億—1450億美元,原因包括組件價(jià)格上漲,以及為擴(kuò)充未來產(chǎn)能而新增的數(shù)據(jù)中心建設(shè)支出。與此同時(shí),據(jù)《The Information》報(bào)道,Meta還在建設(shè)追蹤AI支出、執(zhí)行token預(yù)算的平臺。
項(xiàng)目文件把推理成本稱為Meta擴(kuò)大部署智能體的主要障礙。提案認(rèn)為,多數(shù)編碼智能體任務(wù)可由小模型處理,只有少數(shù)任務(wù)需要能力更強(qiáng)、價(jià)格更高的前沿模型。
OpenRouter已經(jīng)把類似思路做成了公開產(chǎn)品。該公司6月披露每月路由量達(dá)100萬億token,并完成1.13億美元B輪融資。其Pareto Code Router允許用戶設(shè)定編碼質(zhì)量門檻,再從符合要求的模型中選擇當(dāng)前最便宜的一款;企業(yè)還可以為成員和密鑰設(shè)置支出上限。
模型路由也已進(jìn)入頭部AI產(chǎn)品。OpenAI在GPT-5系統(tǒng)卡中介紹,GPT-5由實(shí)時(shí)路由器根據(jù)對話類型、任務(wù)復(fù)雜度、工具需求和用戶意圖,在快速模型與深度推理模型之間切換。(易句)
(本文由AI翻譯,網(wǎng)易編輯負(fù)責(zé)校對)
