推理时间算力Scaling-AI竞争的新战场

一个反直觉的事实

o3-mini 出来的时候，有人做了个测试：

给同一个问题，分别让 o3-mini 用低推理档位和高推理档位跑。

答案质量，是两个级别。

不是风格的差异。是对不对的差异。

这揭示了一件正在 AI 行业静默发生、但几乎没人公开说清楚的事：

模型的强弱，不再只由训练决定。推理时花多少算力，也直接定义了输出质量。

---

推理时间算力Scaling：一条新的曲线

传统的Scaling Law讲的是训练时的故事——喂更多数据、用更大参数、烧更多GPU，模型变强。

这条曲线在2025年触到了一个天花板：数据快被用完了，参数增长带来的收益在递减，训练一块H100的成本已经接近物理极限。

新的故事线叫推理时间算力Scaling（Inference-Time Compute Scaling）。

原理很简单：模型在回答问题之前，会先生成一段"思考过程"。这个思考过程越长，调用的推理算力越多，最终答案的质量就越高。

o1、o3、R1、Gemini 2.0 Flash Thinking——这些模型的共同点不是参数更大，是它们都支持在推理时动态调配算力。

OpenAI甚至在API层面直接推出了推理强度档位：low、medium、high。付更多token费用，就能得到更好的推理结果。

这本质上是在卖「思考时长」。

---

行业的嗅觉比学术圈更快

关于这条新Scaling曲线，学术界其实早有讨论。2023年AlphaCode的论文里就提到，给模型更多推理步骤，编程任务正确率显著提升。2024年的Process Reward Model（PRM）研究，进一步论证了推理过程中间步骤的信号价值。

但工业界的跟进速度更快。

OpenAI在o1发布时直接产品化了推理时间算力概念。Google紧随其后在Gemini 2.0里加了Thinking模式。Anthropic的Claude 3.5 Sonnet在某些任务上通过延长上下文窗口变相实现了类似效果。

中国的几个玩家也没闲着——DeepSeek的R1系列从一开始就把推理时算力可调作为核心卖点，Kimi K2.5的技术报告里甚至专门提到了训练时与推理时的算力协同优化。

这已经不再是「学术研究是否成立」的问题了。这是产品竞争的标准动作。

---

一道新的商业数学题

推理时间算力Scaling带来的最大变化，不是技术层面的，是商业逻辑层面的。

传统AI API的定价逻辑是：按token用量收费，模型越强，单价越高。

推理时间Scaling打破了这条逻辑：你可以在同一个模型上，通过购买更多推理算力，获得显著更好的结果。

这意味着什么？

意味着AI公司卖的不再只是模型能力，而是推理服务本身。

一块GPU，训练时烧100度电，可能只服务一次模型更新。但同一块GPU，如果拿来给推理过程做"加时思考"，可以服务无数次不同质量档位的查询。

这让推理变成了一个可以分层定价的商品。

low档位服务免费或低价走量，high档位按次或按量收 premium 费用。模型还是同一个模型，但「想得久一点」这件事，已经被包装成了独立产品。

---

对开发者的直接影响

如果你在用AI API做产品，推理时间算力Scaling意味着你需要重新考虑成本模型。

不是所有问题都需要high档位。一个翻译任务不需要o3用最大推理量来跑。一个数学证明的验证，值得给它买最贵的思考时长。

这催生了一种新的工程实践——动态算力分配：根据任务复杂度，自动选择推理档位。简单问题用低档位省成本，复杂问题切换到高档位保质量。

这本质上是一种 AI 时代的「算力调度」。

和上下文工程的逻辑一脉相承：不是让模型更强，是让合适的算力在合适的时机给到合适的任务。

---

护城河在漂移，但方向变了

过去三年，AI行业的护城河叙事经历过几次漂移：

2023年，护城河是参数规模。 2024年，护城河是上下文窗口长度。 2025年，护城河是推理能力。

现在，护城河正在变成：推理算力的调度能力。

谁能把算力在正确的时间给到正确的任务，谁就能在同样的模型上跑出更好的产品。

这和上下文工程的核心逻辑一样——AI竞争的下半场，不在模型本身，在模型之外的系统设计。

买得到最强模型的人，不一定是最后赢家。

会用模型的人才才是。

---

本文不构成投资建议。推理档位定价信息来自各厂商公开文档，部分数据为估算值，如有疏漏欢迎指正。