Gartner预测：AI代理工作流推理成本到2028年将增长5倍以上，AI总支出达2.59万亿美元

核心预测：推理成本5倍增长

根据Gartner的预测，AI推理成本（每个代理工作流）到2028年将增长5倍以上。这一预测背后的逻辑非常清晰：与基础聊天机器人交互相比，将任务路由到AI代理推理模型会使提供商的推理成本增加至少5倍，而且随着任务复杂度的增长，成本差异往往更大。换句话说，AI代理虽然让企业用更少的token完成更复杂的任务，但每个工作流消耗的总算力远超传统对话。

Gartner分析师指出，AI代理会进行推理、重新规划、调用其他代理，并在后台持续工作。这种多步骤、多轮交互的执行模式，使得单个工作流的推理成本呈指数级增长。对于正在从聊天机器人向代理式AI转型的企业来说，这是一个必须提前纳入预算规划的关键变量。

2.59万亿美元：AI支出总盘子

在发布推理成本预测的同时，Gartner还更新了全球AI支出的总体预测：到2028年，全球AI支出预计将达到2.59万亿美元。这一数字涵盖了AI相关的硬件、软件、服务和人才支出，反映出AI已经成为全球企业IT投资的核心方向。值得注意的是，这一预测比此前的估计有所上调，主要原因是生成式AI和代理式AI的采用速度远超预期。

Gartner强调，虽然AI基础设施支出（如GPU采购和数据中心建设）占据了大量预算，但真正决定企业AI投资回报率的是应用层的效率。随着代理式AI的普及，推理成本在AI总支出中的占比将持续上升，成为企业CFO和CIO需要重点关注的成本项。

成本下降的悖论：为什么总成本反而上升

一个值得深思的现象是：大语言模型的token价格正在快速下降，多家主流模型供应商在过去一年中多次降价，有些模型的单位成本下降了90%以上。然而，Gartner的预测却显示企业AI成本不降反升。这背后的原因在于使用模式的变化：企业不再只是偶尔询问AI问题，而是让AI代理自主完成整个业务流程。

举例来说，一个传统的客服聊天机器人可能只需要一次模型调用就能回答用户问题，成本不到0.01美元。而一个AI代理要完成'处理客户退款申请'这样的任务，可能需要多次推理、调用CRM系统、生成工单、发送通知，整个工作流可能需要数十次甚至上百次模型调用，总成本可能是前者的数十倍。这种'用更少的钱买token，但用更多的token'的现象，正是Gartner预测的核心逻辑。

企业应对策略：从成本中心到价值中心

面对推理成本的快速增长，Gartner建议企业产品领导者采取一系列应对措施。首先，需要建立精细化的AI成本追踪体系，按工作流、按业务部门核算推理成本，识别成本最高的AI用例。其次，采用分层模型策略，根据任务复杂度选择合适的模型，简单任务用轻量模型，复杂任务才用高性能推理模型。此外，还可以通过缓存、批处理和模型蒸馏等技术手段优化推理效率。

Gartner还强调，企业应该关注AI投资的实际业务价值，而不是单纯追求成本最小化。如果一个AI代理工作流能够替代价值更高的业务流程或创造新的收入来源，即使推理成本较高也是值得的。关键在于建立'成本-价值'的评估框架，让每一分推理成本都能对应到可量化的业务产出。

消息来源

• Gartner Press Release: Gartner Predicts AI Inference Costs Per Agentic Workflow Will Increase More Than Fivefold Through 2028
• Computerworld: AI inference is getting cheaper, but your agents are getting more expensive
• ARN: AI agents aren't cheap, even with falling model costs: Gartner

常见问题解答

总结

Gartner关于AI推理成本5倍增长的预测，为正在拥抱代理式AI的企业敲响了警钟。它揭示了一个关键事实：AI的成本结构正在从'按次付费的对话'转向'按流程付费的自主执行'，这对企业的预算规划、技术选型和ROI评估都提出了全新要求。

好消息是，AI的潜力远未释放完毕。通过精细化的成本管理和价值导向的投资策略，企业完全可以在控制成本的同时，从AI代理中获取更大的业务价值。未来的竞争，不仅在于谁用上了AI，更在于谁用得更聪明、更经济。