北京
翻開任何一家AI公司的成本報表，基礎設施那一欄里，幾乎都有一個繞不開的項目：Python。這里說的不是支付給Python工程師的薪水，而是實實在在的算力消耗。同一個訓練任務，用C++或者Rust這類編譯型語言完成，往往用時更短、占用內存更少，但行業的主流選擇依然是Python。兩者之間的效率落差，就是許多從業者口中的“隱性成本”。
這個局面的確有些反常識。AI團隊里并不缺少頂尖的系統工程師，大家都知道Python的全局解釋器鎖會拖累多線程，也清楚動態類型在大規模分布式訓練中帶來的調試難題。可是從頂尖實驗室到初創公司，模型訓練的主干道仍然是Python腳本。原因其實很簡單：當你的團隊每周需要迭代三個版本的模型，研究員要隨時改動網絡結構，開發的靈活性遠比執行效率更關鍵。Python就像一層薄而堅韌的膠水，它黏合的是整個AI生態中最豐富的庫和最活躍的開源社區。
真正讓這筆隱性成本變得刺眼的，是推理環節。訓練能容忍一次跑上幾天，但部署到線上、需要承接每秒上千次請求的時候，Python的開銷會被急劇放大。即便模型本體在GPU上跑得飛快，只要請求的預處理、結果的后處理或多步工作流串聯中夾雜了純Python代碼，延遲就會明顯上跳。業內的常見做法是另外搭建一套C++推理服務，這意味著同一個模型要維護兩套代碼，研發開銷和出錯的概率都在翻倍。
最近兩年，幾個新動向讓這筆成本有了重新估算的可能。Mojo這類新語言開始嘗試直接兼容Python生態，目標很清楚：用Python的語法，跑出C的執行效率。如果這條技術路線能夠通行，AI公司就不必在“開發快”和“跑得快”之間反復權衡。但就眼下而言，大多數團隊還是采用更務實的節支手段——把熱點路徑用Cython或者Rust重寫，或者借助ONNX這類中間格式來簡化部署。這些做法算不上驚艷，但確實能把開銷削掉一塊。
說到底，Python帶來的額外算力消耗背后，是一個行業走向成熟時必經的矛盾：當你的模型年收入過億的時候，那幾萬、幾十萬的計算浪費究竟還是不是問題？對大廠來說，答案很可能是“可以忍”，因為招聘更多的Python工程師遠比招到頂尖的C++系統程序員要便宜。可對那些燒錢拼規模的獨角獸而言，這筆隱性成本正在變成顯性的拖累。一邊是財報上必須壓下來的基礎設施支出，一邊是整個人才市場對Python的路徑依賴，技術決策者正被夾在中間。
更值得留意的變化出現在開源社區。越來越多的模型在發布時就直接配上多種語言的推理實現，這在兩年前還很罕見。當一個項目同時提供Python、C++和Rust的客戶端，“Python成本”就從一個必選項變成了可選項。你仍然可以用Python進行原型驗證，但在生產環境中切換到更輕量的運行時——代價是團隊得同時精通兩套工具鏈。這筆新的人力投入，會不會成為下一張賬單，現在還不好說。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
