北京
最近跟幾個創業公司的朋友聊天，話題總繞不開一個詞——智能體。每個人眼睛里都帶著光，跟我講他們正在搭建的那個AI代理。更讓他們興奮的是速度，一個周末就搞出了能跑的原型。我問他們技術棧怎么選的，答案像商量好的一樣：高度抽象的編排庫。我基本就是點頭、祝他們順利。因為我太清楚他們接下來六個月會經歷什么了，我們團隊剛從那個坑里爬出來。
框架這東西，一開始真的像魔法。我們用它搭第一套檢索增強生成架構的時候，幾天就把一個文檔查詢系統推到線上。那種感覺特別不真實，你甚至會覺得工程團隊是不是可以解散了。但當我們要把這個內部演示系統打磨成能扛住生產環境壓力的企業級產品時，框架突然翻了臉。它不再幫你加速，而是變成一件緊身衣，你越掙扎它越收緊，整個開發節奏幾乎被勒死。
今天講點不摻水分的實話。那些讓你在周末黑客松上爽到飛起的抽象層，當你的系統真要上戰場的時候，往往是崩盤的根源。
先講調試透明度這塊，這是第一個撞上的墻。如果你直接調大模型的API，不管是Anthropic還是OpenAI，整個過程干凈到你沒什么好抱怨的。你發一行JSON過去，帶一個提示詞，它回一行JSON。模型產生幻覺或者輸出跑偏了，你翻出你發給它的那串文本，一看，哦，這個指令寫得不夠清楚，改掉它。整個過程是確定的，你的每一次試錯都能追溯到根源。
一旦套上編排框架，這份確定性瞬間蒸發。你不再親手寫提示詞了。你要做的是配置“鏈”和“代理”，框架會在背后動態拼湊最終送給模型的文本，全程不讓你插手。想象這個場景：用戶丟進來一個復雜問題，你的代理崩潰了。然后你盯著一堆完全讀不懂的堆棧跟蹤信息發呆。你一層層往下挖源碼，翻到那些沒有任何文檔標注的底層邏輯，只為了搞清楚框架到底給我的模型發了什么東西。最后你會意識到一件荒謬的事：你花在調試框架本身的時間，已經超過了調優你系統的實際行為。
定制化是緊接著冒出來的第二堵墻。企業軟件這個東西，混亂程度遠超你想象。你從來不只是需要一個標準化的向量搜索。你需要根據嚴格的用戶權限來分流查詢路徑，你需要定制緩存層，你需要在生成流被塞進數據庫之前先攔截它，把私密數據全部擦洗掉。這些是真實業務環境里逃不掉的需求。
而框架不同。框架對于“應用應該怎么跑”有自己一套極其固執的假設和路徑。你的需求跟它的“黃金路徑”重合的時候，一切都好說。但只要你稍微偏離一點，麻煩就來了。你想實現自己的業務邏輯，發現唯一能做的就是寫一些丑陋到極點的包裝類，只是為了繞開框架里那些你根本不需要但又繞不過去的默認處理流程。代碼越寫越臟，維護成本越來越高，而這一切都是為了讓一個本應幫你的工具不要礙你的事。
這背后的核心矛盾其實很簡單：編排框架的設計初衷，是讓你快速跑通原型。它把復雜的東西藏起來，給你一種掌控全局的錯覺。但當系統需要面對真實用戶、處理極端情況、承載復雜權限的時候，你需要的恰恰是反過來：你要把一切攤開來，在每一層都有完全的干預能力和可見性?？蚣芙o你的反而是個黑箱，你只能在它劃定的圈子里打轉。打轉的結果，要么你放棄那些核心的業務需求，要么你在詭異的迂回代碼里把自己淹死。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
