Token单价持续走低，曾让许多企业默认AI总成本将随之下降。Gartner最新预测打破了这一假设：到2028年，每一智能体（AI Agent）工作流的推理成本将升至当前水平的5倍以上，而智能体每完成一项任务所消耗的Token为基础聊天机器人的5-30倍。Gartner将这一现象命名为“推理悖论”（Inference Paradox）——单位经济学越好，AI总成本反而越高，且缺乏一条通向相应、可预期价值的清晰路径。成本治理，正在取代模型能力，成为企业AI竞争的新分水岭。
一、导语：Token更便宜了，账单却更贵了
8月17日，Gartner发布正式预测：至2028年，AI推理成本按每一智能体工作流计算将上升超过5倍。这一预测的吊诡之处在于它的前提——恰恰是在Token单价一路下行的背景下发生的。数据服务商Silicon Data编制的大语言模型Token支出指数（彭博代码SDLLMTK，按使用量加权计算全球主流大模型实际成交价格）于2026年9月初首次跌破每百万Token 1美元关口，报0.97美元，创该指数推出以来最低读数，较2026年5月高点累计降幅超过50%。
单价与总成本的背离，源自任务结构的变化。Gartner给出的核心量级是：相较于一次基础聊天机器人交互，将任务路由至智能体推理模型，会使供应商的推理成本至少上升5倍，且随任务复杂度增长往往远高于此；在同一任务上，AI智能体每任务的Token消耗为基础聊天机器人的5倍以上、最高可达30倍。换句话说，企业买的每一份“智能”都更便宜了，但完成一项真实工作所需要的“智能”份数，正在以更快的速度膨胀。
这一结构性变化有宏观注脚。IDC与浪潮信息联合发布的《2026年中国人工智能计算力发展评估报告》测算，全球活跃智能体数量将从2026年的7940万个（0.794亿）增长至2030年的22.16亿，复合增长率达129.8%；同期全球Token消耗量复合增长率高达4822.6%，约为智能体数量增速的37倍。更早的历史坐标同样清晰：斯坦福HAI与ArtificialAnalysis的统计均显示，GPT-3.5档位的推理成本已从2022年11月的每百万Token约20美元降至2024年10月的0.07美元，降幅约280倍。单价曲线俯冲与消耗曲线拉升相叠加，构成了“推理悖论”的完整图景。
本文拆解推理悖论的两台发动机、成本演进的锯齿状节奏、预测背后的计量模型，以及Gartner给出的五项架构调整建议。
图1 智能体较基础聊天机器人的成本倍数（Gartner口径）
二、推理悖论的两台发动机：模型端与消耗端
Gartner识别出驱动Token经济学的三大根本趋势：基础模型的成本经济学正在快速改善；效率提升并未被留存为利润，而是被用于部署更强大、更昂贵的模型，以支撑更高价值的复杂应用；更复杂的工作流消耗远多于简单聊天交互的Token——Token正变得更高效，但效率提升的速度赶不上AI能力及其成本的增长，创新速度跑赢了成本下降曲线。
第一台发动机在供给侧，即模型实验室的行为逻辑。Gartner高级总监分析师Will Sommer向VentureBeat指出：“Token的生成正变得更省成本，但基础AI实验室并没有把这些节省存进银行，而是投入到需要更多算力、因而每Token更贵的下一代模型上。”其结果是新旧模型价格的持续分化：老能力快速降价，前沿能力愈发昂贵。“这样看，Token成本不是在下降，而是在拉大。”Sommer说。
这一分化在市场价格表上可直接核验。Anthropic官方API定价页显示，其面向长时程智能体的新一代旗舰Fable 5定价为每百万Token输入10美元、输出50美元；面向复杂智能体编程与企业工作负载的Opus 5为输入5美元、输出25美元——新一代旗舰模型的单位Token价格恰为上一梯队的两倍。Sommer在专访中即以“Anthropic的Fable每Token价格高于Opus”作为新旧分化的例证。与此同时，产业界的老模型降价亦在加速：DeepSeek等中国厂商通过混合专家架构与缓存差异化定价持续压低存量能力价格，成为Token支出指数跌破1美元的重要推手。
第二台发动机在消耗端。更高的Token效率让复杂工作流在经济上变得可行，而企业一旦加以利用，便推高了Token消耗与总成本。“简单聊天机器人只需读取并解释一条查询，快速给出一个概率上合理的回答；AI智能体则必须不断推理、协商并质疑自身。”Sommer解释道，这些职责不断累加，使智能体推理成本至少达到基础聊天机器人交互的5倍。竞争压力将两台发动机拴在一起：希望与同行保持同步的企业会采用更先进的用例，而这些用例呼唤更强、更贵的模型与数倍于上一代AI系统的Token消耗。
图2 全球活跃智能体数量预测：2026→2030
三、锯齿状爬升：成本曲线为何不是直线
Gartner并不预计成本沿直线爬升到2028年。约束成本与保持竞争力的张力使支出上下震荡，且支出节奏随新模型发布而摆动。“第一波智能体能力在春季带来了支出的大幅增加，部分受到tokenmaxxing风潮的推动。我们目前正处于一个紧缩阶段。”Sommer说。Gartner预计，随着更强推理智能体、世界模型等技术的成熟，还将出现数轮波次。
企业侧的成本约束并不均衡。VentureBeat于2026年9月开展的VB Pulse调查（109家合格受访企业）显示：使用编排平台的企业中，有21%没有任何自动阻断智能体Token支出的机制；另有31%将常规、高量的智能体任务路由至更廉价的模型以控制成本；其余48%（按调查结构推算）处于两者之间的其他情形。这意味着相当比例的企业在智能体支出失控面前仍处于“裸奔”状态。
IDC的全球调查给出了更大样本的印证。IDC未来企业韧性与支出调查（FERS，2026年7月）显示：95%的全球企业已在生产环境运行至少一条公司出资的智能体使能工作流，平均每家组织约11条；有成本可见度的企业报告智能体推理及相关编排服务的平均月支出达117,558美元，年化超过100万美元。过去12个月中，67%的企业智能体支出超出预算10%以上，其中43.1%超支10%-25%，18.5%超支26%-50%，5.4%超支50%以上。
成本失控的后果已经开始显性化。Gartner重申其此前预测：到2027年底，超过40%的智能体AI项目将因成本攀升、业务价值不清或风控不足而被取消。在2026年10月发布的AI技术成熟度曲线分析中，Gartner进一步指出，2026年之问已从“能否用AI构建”转向“能否核算AI在做什么、花多少钱”，并将AI可观测性列为当年最重要的技术进展之一。
图3 企业智能体支出治理现状（VB Pulse调查，2026年9月）
图4 企业智能体部署与预算执行（IDC FERS调查，2026年7月）
四、Tokenomics Forecast：五倍预测背后的计量模型
五倍预测并非拍脑袋的直觉判断。据Sommer向VentureBeat介绍，该估计建立在Gartner Tokenomics Forecast之上——一个以超过300项输入预测Token成本随时间变化的经济计量模型，同时计入Token成本效率的持续改善与Token消耗的急剧上升两个方向。模型特别关注一类负载：具备学习能力、或跨企业部门与多领域运营的AI解决方案，此类方案将工作流落地运营需要显著更多的Token。
预测的方法论口径亦界定了它的适用边界。Gartner在新闻稿中明确，确保推理智能体等高级AI的投资回报，需要相对基础模型指数级更高的回报，或者对推理分层（inference tiering）、路由与编排进行高度优化，以使复杂任务与更具成本效率的智能相匹配；“默认使用通用自主智能，将导致比优化后的产品生态高出数量级的无界成本”。换言之，五倍是“不作为情形”下的基准外推，而非不可改变的宿命——治理动作本身即是预测变量的函数。
配套的深度报告《The Inference Paradox: Inference Tiering Is Critical to Protect Margins》已面向Gartner客户发布，核心论点即在于：推理分层是保护利润率的关键。值得注意的是，Gartner同时提示当前AI FinOps能力仍不成熟，企业短期内需在不完整的工具市场中构建控制层。
五、五项架构调整：企业如何跑赢推理悖论
针对推理悖论，Gartner通过VentureBeat给出了五项架构调整建议。
其一，投资可观测性。AI FinOps是任何成本优化的前提，“企业无法优化其观察不到的东西”（Sommer语）。这与IDC的治理清单相互呼应：为每条工作流指定唯一的支出责任人、以实时成本可见度取代月度账单复核、将成本治理作为工程学科投入——模型路由、提示词缓存与智能体循环护栏是“建出来的”，不是写进政策备忘录的。
其二，嵌入按结果计价值的机制。要求每一项AI功能在宽区间不确定性下做前瞻测算，并以清晰的结果指标（如任务自动化数量、案件成功关闭数）跟踪支出，快速改进或淘汰低绩效工作流以保护利润率。
其三，制度化推理分层。强制将查询自动路由至最具成本效率的模型，阻断常规任务对前沿模型的默认调用；“投资于agentic harness，定义模型在自主系统中于何处、何时、如何部署”（Sommer语）。Gartner在成熟度曲线分析中给出了同构的三管齐下方案：强制智能分层、实施带熔断机制的动态会话预算、部署跨供应商的自动化成本控制与修复能力。VB Pulse调查中31%企业已采用的路由降本做法，正是这一建议的初级形态。
其四，执行最低标准。“设置后放手”行不通。组织需要预先定义成功阈值、合规开销与风险缓释成本，在场景未通过Token价格波动与合规费用压力测试之前，拒绝放行部署。
其五，利用专有数据。嵌入专有数据微调与自学习反馈回路以维持差异化与利润率；“高效的领域专有模型在可靠性与特定工作负载任务上通常优于通用前沿模型”（Sommer语）。IDC建议的补充措施还包括：将单一供应商的推理支出占比控制在40%以下，并保留第二供应选项以应对定价与条款的季度波动。
五项建议的共同指向，是把成本治理从财务部门的“事后对账”前移为架构层的“事前设计”。在40%以上项目面临取消风险的背景下，这五项调整的优先级排序，本质上是在为“哪些智能体工作流值得存在”设立判据。
结语
推理悖论的实质，是AI价值衡量单位的一次迁移：从“每Token多少钱”转向“每项任务耗掉多少智能、又创造多少价值”。Token单价的下行通道仍在延续，但在智能体工作负载面前，它已不再是AI总成本的可靠代理变量。
对产业而言，Gartner的五倍预测划定的是一条“不作为基线”：若企业继续以默认方式调用日益昂贵的推理能力，至2028年成本沿锯齿状波浪攀升逾五倍将是计量模型的自然外推；反之，可观测性、按结果计价值、推理分层、执行门禁与专有数据五项架构调整，构成了把成本曲线压回可控区间的操作空间。智能体经济的“电表时刻”已经到来——能被度量的智能，才谈得上被治理；能被治理的智能，才谈得上规模化。
