导语："AI 变便宜了"是一句在正确方向上、但被严重压缩掉的判断。 固定能力下的推理单价确实出现了数量级下降；前沿模型的训练绝对成本在持续攀升；而企业实际支付的 AI 总账单，在多数场景中反而在上涨。三者并不矛盾，它们分别对应 AI 成本结构中三个互不相同的层面。误读任何一层，都会导致错误的采购决策、错误的预算模型和错误的战略押注。

一、推理成本：固定能力门槛下的数量级下降

三年间最可核实的降价发生在推理侧，但它有一个常被省略的前提——以"固定能力门槛"为基准。

Stanford AI Index 2025 联合 Epoch AI 的记录是：在 MMLU 上达到 GPT-3.5 水平（64.8% 准确率）的调用成本，从 2022 年 11 月的每百万 token 20 美元，降至 2024 年 10 月的每百万 token 0.07 美元（Gemini-1.5-Flash-8B），18 个月内下降逾 280 倍。同一份报告在更难的 GPQA 基准上记录了类似量级：2024 年 5 月的 15 美元降至 2024 年 12 月的 0.12 美元（Phi-4）。

Epoch AI 后续发布的《The Plunging Price of Thought》给出了更平滑的长期曲线：自 2023 年以来，达到同等性能水平的成本平均每季度下降约 47%，折合每年约 13 倍。一个具体案例：2025 年 1 月的 o3 在 GPQA Diamond 上达到 75% 准确率的单题成本约 0.30 美元，18 个月后 GPT-5.6 Luna 在同一水平上的单题成本降至约 0.0004 美元，725 倍。

图 1｜推理成本的两个降幅

在这里插入图片描述

1.1 "三年降 1000 倍"不能当作通用行业结论

这是全篇最容易被误用的一句话。"1000 倍"不是任何一份权威报告给出的统一统计结论。

  • Stanford AI Index 2025 的原始表述是"视任务而定，LLM 推理价格在每年 9 至 900 倍之间下降"——这是一个区间，不是一个点。
  • Epoch AI 的 47%/季度是跨 5 个基准、222 个模型的综合拟合值，同样存在分化：数学推理最快（每季度 50%–52%），游戏谜题最慢（每季度 39%–43%）。
  • 更关键的是降幅本身在收敛。Epoch 的分解显示：某项能力首次达到前沿（SOTA）时，成本每季度下降 66%（年降 75 倍）；两年后同一能力的降幅收窄至每季度 32%（年降 4.7 倍）。降价最快的时候，恰恰是这项能力还不值钱的时候。

因此，"固定能力下年降 10 倍量级"是较为稳健的锚点，可作为规划假设；而千倍是特定起止点组合下的待检验命题，不能跨场景搬运。

1.2 但旗舰模型的标价并没有同步下探

一个被广泛误读的事实是："推理变便宜"发生在能力分层之后，而不是全线平移。

层级代表模型（时点）输出价（美元/百万 token）
三年前的前沿GPT-4（2023.03）60
当前前沿GPT-5.6 Sol（2026.06）/ Claude Opus 4.7（2026.07）30 / 25
前沿之下Gemini 3.1 Pro（2026.04）/ GPT-5.6 Terra12 / 12
高性价比层Kimi K2.6 / GPT-5.6 Luna2.5 / 1.2
商品层DeepSeek V4 Flash / GPT-6 Luna0.28 / 0.5

图 4｜2026 年 API 价格阶梯：能力分层下的"哑铃结构"

在这里插入图片描述

三点值得注意：

  1. 前沿输出价三年只降了一半（60 → 30 美元），远慢于固定能力门槛下 280 倍的降幅。所谓"AI 推理成本崩塌"，崩塌的是旧能力的价格，不是新能力的成本。
  2. 降价来得极其剧烈且短促。2026 年 7 月 30 日，OpenAI 将 GPT-5.6 Luna 单次降价 80%（输入 1.00→0.20、输出 6.00→1.20 美元），并在两周内被 Glean、Cursor、Augment Code、Vercel 等五家转售商原样传导。
  3. 开放权重的价格地板已经抬升。DeepSeek 于 2026 年 8 月预告全面上调 API 价格，输入 3 元、输出 6 元（每百万 token）。"开放模型永远更便宜"这条 2024 年的经验，正在被写进 2025–2026 年的定价策略里。

二、训练成本：绝对金额持续攀升，"造前沿"与"复刻前沿"正在分岔

与推理单价方向相反，训练前沿模型的绝对成本在过去三年持续上升。

Epoch AI 的公开数据库给出了完整阶梯（训练算力成本，2023 年美元口径）：

图 2｜训练成本的两端分岔

在这里插入图片描述

模型时点单次训练算力成本
DeepSeek-V32024.12约 560 万美元（实验室自述）
Claude 3.5 Sonnet2024.06约 2590 万美元
GPT-42023.03约 3730 万美元（Altman 称超 1 亿美元）
Llama 3.1 405B2024.07约 5290 万美元
Grok-32025.02约 2.18 亿美元
GPT-4.52025.02约 3.66 亿美元
Grok-42025.07约 3.88 亿美元（目前公开估算最高值）

三点必须校正的口径问题：

  • 各机构数字差异主要来自计价方式而非事实分歧。 Epoch AI 同时提供"云租赁价"和"硬件摊销+能源"两套口径，前者通常是后者的两倍。GPT-4 一项的常见区间是 3700 万–7900 万美元，差别来自方法而非矛盾。
  • 单次训练 ≠ 整个项目。 Epoch 估算，包含实验、失败运行、评估和微调在内的总开发算力是最终成功运行的 1.2 至 4 倍。硬件占总摊销开发成本约 47%–64%，研发人员（含股权）约 29%–49%，能源仅占 2%–6%——电费从来不是训练成本的主角，芯片和人才才是。
  • 年增速是 2.4 倍。 2027 年的预测区间集中在每模型 10 亿至 30 亿美元，且首批十亿美元级训练运行预计出现在 2027 年前后。

2.1 关键分岔：从零到一 vs 在开放基座上复刻

DeepSeek-V3 的 560 万美元与 Grok-4 的 3.88 亿美元之间，是 69 倍的差距。这不是同一赛道上的效率差异，而是两种不同的生意：

  • 从零构建前沿能力：成本在飙升，且只有少数实验室有资格参与这场竞赛。
  • 在开放基座上复刻"上一代前沿"能力：通过蒸馏与强化学习，成本可能低至数百万美元量级。

对绝大多数不需要定义前沿的企业和开发者而言，训练或微调一个"够用"的专用模型的门槛，实际上在下降。 把两者混为一谈，会同时得出"AI 训练越来越贵"和"AI 训练已经很便宜"这两种同样片面的印象。

三、企业总支出：单价在降，账单在涨

三年成本变化中最具实践含义的一条线索是：推理单价与 AI 总支出之间的负相关，在企业层面并不成立。

图 3｜全球 AI 支出结构

在这里插入图片描述

Gartner 的最新预测给出了全局量级：2026 年全球 AI 支出 2.67 万亿美元，同比增长 49.5%（2025 年 1.79 万亿，2027 年预计 3.64 万亿）。而在企业侧，企业级生成式 AI 支出已从 2024 年的约 115 亿美元跃升至 2025 年的约 370 亿美元，一年增长 3.2 倍。

Gartner 分析师 Will Sommer 对此的表述最为直接：“Token 成本正在下降，但这些能力会更昂贵，而不是更便宜。” 他把这一现象命名为"推理悖论"（The Inference Paradox）——更好的单位经济学在推高整体 AI 成本，却没有提供一条通往可预测价值的清晰路径。

3.1 账单为什么在涨：不是单价降得不够快，而是任务结构变了

原因不在单价，而在单次任务的 Token 消耗结构发生了质变。

场景单次任务 Token 量级
普通聊天机器人单次会话约 1000 tokens
嵌入式 Copilot 单日5000 tokens 以上
持续在线（Always-on）智能体单日超过 10 万 tokens

高盛测算：Agent 化将使 2026→2030 年的全球 Token 消耗增长 24 倍，达到每月 120 千万亿（quadrillion），其中企业级智能体贡献约 56 千万亿。Gartner 的估计更聚焦：把任务路由给智能体推理模型，提供方的推理成本至少上升 5 倍，且随任务复杂度上升得更多；推理模型单任务 Token 消耗是标准聊天机器人的 5 至 30 倍。

当消耗增速持续高于单价降幅，总账单就必然上行。 这正是杰文斯悖论在 AI 成本上的具体投影。

3.2 一个把话说透的案例：Uber 的四个月

2025 年 12 月，Uber 向约 5000 名工程师开放了 Claude Code，并建立了按 AI 使用量排名的内部排行榜。结果是：

  • 2026 年 2 月，32% 的工程师使用该工具；到 3 月，84% 被归类为"智能体编程用户"，95% 每月使用，约 70% 的提交代码与 AI 相关，约 11% 的线上后端更新由智能体在无人干预下生成；
  • 单个工程师月均 API 开销从 150–250 美元升至重度用户的 500–2000 美元，Uber CTO 一次两小时的演示花费 1200 美元；
  • 2026 年 4 月，CTO Praveen Neppalli Naga 承认公司全年 AI 预算已在头四个月烧光。Uber 2025 年研发支出为 34 亿美元（同比 +9%）——问题不在预算规模，而在财务模型没有理解这种计费方式。

事后 Uber 将支出上限设为每人每月 1500 美元，Walmart、Amazon、Cisco 随后采取类似管控。Palantir CEO Alex Karp 在 7 月公开抨击这是"财富税"。

这里的错配是结构性的：你用"电表"计量的东西，被塞进了"月租制"的预算表。同一名工程师、同一个工作日，只做代码补全和在 monorepo 上编排并行智能体，账单可以相差一个数量级。

四、2027 年展望：单价继续降，总成本继续升，瓶颈从芯片转向物理约束

基于上述三条轨迹和当前可得的机构预测，对 2027 年的判断可以沿"单价—用量—结构性成本"三个层次展开。

4.1 推理单价：继续下降，但降速温和收窄，且呈哑铃分化

  • Gartner 预测，到 2030 年在1 万亿参数模型上执行推理的成本将比 2025 年下降 90% 以上，届时 LLM 的成本效益可达 2022 年同规模模型的 100 倍。
  • 硬件侧仍有确定性红利：SemiAnalysis 测得最优配置的 GB300 NVL72 吞吐是 H100 的 17 倍（FP4 精度下达 32 倍），其对 2027 年 Token 价格的判断是"远低于当前水平"。
  • 但降价红利会向两端分化。Epoch 的 SOTA 降价衰减规律表明，成熟能力的价格优势会被竞争抹平，而新能力刚出现时反而享受溢价。更关键的是，推理时间扩展（reasoning tokens）的普及抬高了"同等能力"的定义本身——硬推理任务的单次成本可能不降反升，形成"廉价商品化推理"与"昂贵深度推理"并存的哑铃结构。

4.2 企业总支出：继续上升，Agent 是核心驱动项

  • Gartner 预测，每个 Agent 工作流的推理成本到 2028 年将增长超过 5 倍。
  • 支出结构上，智能体与助手支出将从 2025 年的 165 亿美元增至 2027 年的 655 亿美元（两年 3.0 倍），生成式 AI 模型支出增长 117%。
  • 风险已经显性化：Gartner 预计超过 40% 的 AI Agent 项目将在 2027 年底前被取消，三大原因分别是成本上升、商业价值不清、风险控制不足；近 1000 个案例研究中，能稳定产生投资回报的智能体部署不足 10%。

结论：企业 AI 预算的"失控感"在 2027 年不会自动消失。它本质上是用量驱动的成本结构与席位制/项目制的传统预算框架之间的错配，而非模型厂商的定价失误。

4.3 结构性成本：安全合规成为新的上行变量

这是原稿中最容易被低估的一层。巴克莱（Ross Sandler 团队，2026 年 9 月）基于 OpenAI 2026 年 8 月 18 日披露的安全监控要求做出测算：

图 5｜2027 年算力成本结构

在这里插入图片描述

  • 2027 年行业基础算力总成本预计 2460 亿美元，其中训练 1320 亿、推理 1140 亿。
  • 受监控算力合计约 2190 亿美元，覆盖后训练/RL 工作负载（约 1040 亿美元，占训练算力 79%）与全部关键级别推理（1140 亿美元，占推理算力 100%）。
  • 叠加 20% 的监控开销，2027 年新增成本约 440 亿美元，行业算力成本上升约 18%；2028 年这一增量扩大至约 760 亿美元，占比仍稳定在 18% 左右。
  • 预训练环节不在监控范围内，这解释了为何整体增幅（18%）低于推理与后训练单项增幅（20%）。
  • 盈利侧：目前部分头部实验室推理毛利率超过 80%，短期有缓冲空间，但长期将向 65% 的中枢收敛。能否转嫁，取决于是提高 Token 定价还是转向按结果计费。

这意味着 2027 年出现了一个此前不存在的上行变量：安全合规从道德议题变成了可量化的成本科目。

4.4 物理约束：内存与电力开始锚定 Token 价格的下行速度

  • HBM 短缺至少延续到 2027 年底（SK hynix 口径），且新增产能要到 2028 年才有实质供给；TrendForce 预计 2027 年 HBM 混合 ASP 上涨 121%；IDC 预计 HBM4 供给到 2027 年中才满足需求，内存紧张延续至 2028 年。
  • 电力约束在 2027 年成为比芯片更紧的瓶颈。IDC 数据：美国 2026 年已有近 7 GW 计划中的数据中心容量因缺电延期或取消，预计到 2028 年存在 45 GW 电力缺口；摩根士丹利自有"AI 供电"模型测算，美国 2028 年前面临 32 GW 净缺口，2029 年前扩大至约 72 GW。
  • 上游资本开支已在锁定这一约束：2026 年 Amazon 约 2000 亿美元、Alphabet 约 1750–1850 亿美元、Meta 约 1150–1350 亿美元的资本开支指引，已超过其经营现金流。

内存和电力的成本刚性，意味着 Token 单价的下行速度将越来越多地被上游物理成本所锚定，而不再仅由模型架构和推理优化决定。

五、综合判断

2027 年的 AI 成本图景不会是"更便宜"或"更贵"的单一叙事。更准确的预测是：

  1. 商品化能力的单位价格继续以接近历史节奏下行，但降幅本身在收敛——降价最快的阶段已经过去；
  2. 前沿训练与深度推理的绝对成本继续攀升，十亿美元级单次训练将在 2027 年前后出现；
  3. 企业总支出因用量膨胀与安全合规的叠加而维持上行压力，且支出结构从"买模型"转向"买算力 + 买合规 + 买编排"；
  4. 价格结构的分位化比价格水平更值得关注——同一年里，商品层 Token 可以便宜到接近零成本，而前沿推理仍是每百万 token 数十美元。

成本下降的红利能否被企业捕获，取决于一个非技术变量：能否将 AI 工作负载从"无限扩张的用量"约束到"与产出价值挂钩的用量"。

具体而言，有三个可立即执行的动作：

  • 按能力分层路由，而非按模型统一采购——把高频常规任务下沉到小模型和领域专用模型，将前沿模型严格门控在高价值复杂推理上；
  • 把计价单位从席位改回价值——采用按结果计费、额度制（credit）或混合定价，避免用月租预算表去承载按量计费的波动；
  • 在 Agent 规模化之前建立成本观测——没有 token 级用量归因的 AI 支出，本质上是一笔无法结账的预付款。

附：数据来源

数据来源时点
固定能力推理成本降幅Stanford AI Index 2025（联合 Epoch AI、Artificial Analysis）2025.04
47%/季度降幅、725 倍案例、SOTA 衰减规律Epoch AI《The Plunging Price of Thought》2026.09
各模型训练成本估算Epoch AI「Notable AI Models」公开数据库2026.07
全球 AI 支出预测Gartner 全球 AI 支出预测（2026年9月版，5月版为 2.59 万亿/+47%）2026.09
“推理悖论”、Agent 成本 5 倍增长Gartner 新闻稿《The Inference Paradox》及 Will Sommer 分析2026.08
2030 年推理成本降 90%+Gartner 新闻稿2026.03
2027 年算力成本与安全监控增量巴克莱（Ross Sandler 团队），基于 OpenAI 2026.08.18 安全监控披露2026.09
Token 消耗 24 倍预测Goldman Sachs Research（Jim Schneider）2026.05
GB300/H100 吞吐对比、2027 Token 价格判断SemiAnalysis2026
各模型 API 公开标价OpenAI / Anthropic / Google / DeepSeek 官方定价页及发布公告2026.10
HBM 供需与价格SK hynix、TrendForce、IDC2026.09
电力缺口与算力容量IDC、摩根士丹利"AI 供电"模型2026
Uber 预算耗尽事件The Information、Fortune、Axios 及 Uber 公开披露2026.04

口径提示：训练成本为第三方估算而非厂商披露，不同机构因云租赁价 / 硬件摊销口径差异可达约一倍；模型 API 标价变动频繁（2026 年内主流厂商调价节奏约六周一次），实际成本受缓存命中率与输入输出比影响可偏离标价数倍——SemiAnalysis 测得 Opus 4.7 在智能体负载下的实际混合成本约 0.99 美元/百万 token，仅为标价的五分之一以下。

# 人工智能
Logo
北京朝阳AI社区

更多推荐

cover

Codex 懒人一键部署包，几分钟搭建本地ai智能体

avatar 北京朝阳AI社区
cover

NVIDIA 开源 AI 实战｜从 Nemotron 到 Open Agent Safety：我在 NVIDIA 开源生态里挖到的干货

avatar 北京朝阳AI社区
cover

突发|Qwen4预告，Gemini 4 Hydrogen现身，NVIDIA免费Kimi K3.1 Pro，Hermes Agent更新 | 11月7日 AI日报

avatar 北京朝阳AI社区