智能體AI給傳統(tǒng)IT系統(tǒng)帶來巨大壓力

根據(jù)谷歌發(fā)布的《2026年AI基礎(chǔ)設(shè)施現(xiàn)狀》報告，智能體AI工作負(fù)載正對企業(yè)架構(gòu)造成新的壓力。一個提示詞可能觸發(fā)數(shù)百個連鎖動作，這使得傳統(tǒng)IT系統(tǒng)在經(jīng)濟(jì)上難以為繼。

該報告基于對1400多位高級IT領(lǐng)導(dǎo)者的調(diào)研，結(jié)果顯示83%的受訪者認(rèn)為其基礎(chǔ)設(shè)施需要升級才能支撐智能體AI系統(tǒng)，而對自身技術(shù)棧能夠支持關(guān)鍵業(yè)務(wù)AI智能體充滿信心的受訪者僅占17%。與此同時，隨著傳統(tǒng)技術(shù)在支撐智能體工作負(fù)載時愈發(fā)吃力，相關(guān)成本也在持續(xù)攀升。

"傳統(tǒng)架構(gòu)正在這種壓力下逐漸崩裂。"谷歌云產(chǎn)品管理副總裁尼拉夫·梅塔在報告前言中寫道。他指出，62%的IT領(lǐng)導(dǎo)者正面臨因傳統(tǒng)系統(tǒng)中"數(shù)據(jù)出口流量、存儲膨脹以及專用硬件閑置"而帶來的高推理成本。

隨著AI加速普及，成本上漲問題已成為高管層最關(guān)注的議題之一。面對不斷升溫的擔(dān)憂，甲骨文和AWS于6月相繼推出新功能，試圖幫助企業(yè)緩解并管控AI成本。與此同時，Linux基金會也推出了Tokenomics基金會，旨在為大規(guī)模使用AI的企業(yè)制定最佳實(shí)踐標(biāo)準(zhǔn)。

向自主智能體的轉(zhuǎn)變，也帶來了AI計算需求結(jié)構(gòu)的變化。據(jù)谷歌基礎(chǔ)設(shè)施報告顯示，推理工作負(fù)載目前占全部工作負(fù)載的近一半，而訓(xùn)練工作負(fù)載僅占28%。

盡管有預(yù)測認(rèn)為推理成本將在未來四年內(nèi)持續(xù)下降，但據(jù)Gartner分析，隨著對智能體AI等前沿能力的需求上升，企業(yè)并不會直接從中獲益。相較于生成式AI，智能體AI消耗的Token數(shù)量更多，整體開銷依然龐大。

隨著AI智能體推動推理需求爆發(fā)式增長，谷歌基礎(chǔ)設(shè)施報告顯示，96%的高級IT領(lǐng)導(dǎo)者表示成本效益是指導(dǎo)AI基礎(chǔ)設(shè)施決策的關(guān)鍵因素。

報告中，谷歌得出結(jié)論：智能體AI需要全新的基礎(chǔ)設(shè)施標(biāo)準(zhǔn)。治理機(jī)制在推理能力的規(guī)模化擴(kuò)展中將發(fā)揮關(guān)鍵作用，而混合多云架構(gòu)——谷歌將其定義為本地部署與多云環(huán)境的融合——將成為AI部署的行業(yè)標(biāo)桿，尤其是在數(shù)字主權(quán)需求日益迫切的背景下。

報告還預(yù)測，到2030年，美國以外75%的企業(yè)將制定并落地數(shù)字主權(quán)戰(zhàn)略。

在效能層面，效率同樣成為重要考量因素。91%的高級IT領(lǐng)導(dǎo)者表示，在選擇硬件時會將功耗納入決策考量。

"在智能體時代，能源問題已從技術(shù)層面的考量上升為董事會級別的優(yōu)先議題。"報告如是說。

Q&A

Q1：谷歌《2026年AI基礎(chǔ)設(shè)施現(xiàn)狀》報告的主要結(jié)論是什么？

A：報告基于1400多位高級IT領(lǐng)導(dǎo)者的調(diào)研，核心結(jié)論包括：83%的受訪者認(rèn)為基礎(chǔ)設(shè)施需要升級以支撐智能體AI；傳統(tǒng)架構(gòu)面臨推理成本高、存儲膨脹、硬件閑置等問題；智能體AI需要新的基礎(chǔ)設(shè)施標(biāo)準(zhǔn)，治理和混合多云架構(gòu)將成關(guān)鍵；96%的IT領(lǐng)導(dǎo)者將成本效益視為基礎(chǔ)設(shè)施決策的首要因素；91%的人在選擇硬件時將功耗納入考量。

Q2：智能體AI為什么比生成式AI消耗更多資源？

A：智能體AI在執(zhí)行任務(wù)時，一個提示詞可能觸發(fā)數(shù)百個連鎖動作，每個動作都需要單獨(dú)進(jìn)行推理計算，因此消耗的Token數(shù)量遠(yuǎn)高于生成式AI。這種多步驟、自主決策的工作模式使推理負(fù)載大幅增加，目前推理工作負(fù)載已占全部AI工作負(fù)載的近一半，遠(yuǎn)超訓(xùn)練工作負(fù)載的28%。即使未來推理單價下降，整體需求的增長也將抵消節(jié)省的成本。

Q3：企業(yè)該如何應(yīng)對智能體AI帶來的基礎(chǔ)設(shè)施壓力？

A：根據(jù)谷歌報告的建議，企業(yè)需從以下幾個方向著手：一是升級現(xiàn)有基礎(chǔ)設(shè)施以支撐智能體工作負(fù)載；二是引入混合多云架構(gòu)，結(jié)合本地部署與多云環(huán)境；三是加強(qiáng)AI治理機(jī)制；四是關(guān)注硬件功耗，將能源效率納入采購決策。此外，甲骨文和AWS等云廠商已推出專項(xiàng)功能幫助企業(yè)管控AI成本，Linux基金會也在制定規(guī)模化使用AI的最佳實(shí)踐。