智能体AI给传统IT系统带来巨大压力

根据谷歌发布的《2026年AI基础设施现状》报告，智能体AI工作负载正对企业架构造成新的压力。一个提示词可能触发数百个连锁动作，这使得传统IT系统在经济上难以为继。

该报告基于对1400多位高级IT领导者的调研，结果显示83%的受访者认为其基础设施需要升级才能支撑智能体AI系统，而对自身技术栈能够支持关键业务AI智能体充满信心的受访者仅占17%。与此同时，随着传统技术在支撑智能体工作负载时愈发吃力，相关成本也在持续攀升。

"传统架构正在这种压力下逐渐崩裂。"谷歌云产品管理副总裁尼拉夫·梅塔在报告前言中写道。他指出，62%的IT领导者正面临因传统系统中"数据出口流量、存储膨胀以及专用硬件闲置"而带来的高推理成本。

随着AI加速普及，成本上涨问题已成为高管层最关注的议题之一。面对不断升温的担忧，甲骨文和AWS于6月相继推出新功能，试图帮助企业缓解并管控AI成本。与此同时，Linux基金会也推出了Tokenomics基金会，旨在为大规模使用AI的企业制定最佳实践标准。

向自主智能体的转变，也带来了AI计算需求结构的变化。据谷歌基础设施报告显示，推理工作负载目前占全部工作负载的近一半，而训练工作负载仅占28%。

尽管有预测认为推理成本将在未来四年内持续下降，但据Gartner分析，随着对智能体AI等前沿能力的需求上升，企业并不会直接从中获益。相较于生成式AI，智能体AI消耗的Token数量更多，整体开销依然庞大。

随着AI智能体推动推理需求爆发式增长，谷歌基础设施报告显示，96%的高级IT领导者表示成本效益是指导AI基础设施决策的关键因素。

报告中，谷歌得出结论：智能体AI需要全新的基础设施标准。治理机制在推理能力的规模化扩展中将发挥关键作用，而混合多云架构——谷歌将其定义为本地部署与多云环境的融合——将成为AI部署的行业标杆，尤其是在数字主权需求日益迫切的背景下。

报告还预测，到2030年，美国以外75%的企业将制定并落地数字主权战略。

在效能层面，效率同样成为重要考量因素。91%的高级IT领导者表示，在选择硬件时会将功耗纳入决策考量。

"在智能体时代，能源问题已从技术层面的考量上升为董事会级别的优先议题。"报告如是说。

Q&A

Q1：谷歌《2026年AI基础设施现状》报告的主要结论是什么？

A：报告基于1400多位高级IT领导者的调研，核心结论包括：83%的受访者认为基础设施需要升级以支撑智能体AI；传统架构面临推理成本高、存储膨胀、硬件闲置等问题；智能体AI需要新的基础设施标准，治理和混合多云架构将成关键；96%的IT领导者将成本效益视为基础设施决策的首要因素；91%的人在选择硬件时将功耗纳入考量。

Q2：智能体AI为什么比生成式AI消耗更多资源？

A：智能体AI在执行任务时，一个提示词可能触发数百个连锁动作，每个动作都需要单独进行推理计算，因此消耗的Token数量远高于生成式AI。这种多步骤、自主决策的工作模式使推理负载大幅增加，目前推理工作负载已占全部AI工作负载的近一半，远超训练工作负载的28%。即使未来推理单价下降，整体需求的增长也将抵消节省的成本。

Q3：企业该如何应对智能体AI带来的基础设施压力？

A：根据谷歌报告的建议，企业需从以下几个方向着手：一是升级现有基础设施以支撑智能体工作负载；二是引入混合多云架构，结合本地部署与多云环境；三是加强AI治理机制；四是关注硬件功耗，将能源效率纳入采购决策。此外，甲骨文和AWS等云厂商已推出专项功能帮助企业管控AI成本，Linux基金会也在制定规模化使用AI的最佳实践。