当AI学会"思考"：推理Scaling Law与下一代AI Agent

2025年的AI战场，胜负已不再只由"训练多少数据"决定。一场静默的革命正在发生——在推理阶段投入更多算力，让模型"想清楚再回答"，正在彻底改变我们对大语言模型能力的认知。

这，就是推理Scaling Law（Inference Scaling Law）。

从"大力出奇迹"到"想久一点"

过去三年，业界对Scaling Law的认知经历了两次范式转移：

• 第一阶段（2020-2023）：堆参数、堆数据、堆GPU。模型越大大越好，这是"训练侧"的Scaling Law，GPT系列是典型代表。
• 第二阶段（2023-2024）：RLHF、SFT、DPO——用强化学习微调模型的行为，让它更听话、更对齐。这是"微调侧"的优化。
• 第三阶段（2024-至今）：推理Scaling Law。核心洞察是——在推理阶段，给模型更多"思考时间"（即更多计算资源），它能解决复杂得多的任务。

OpenAI的o1/o3、DeepSeek-R1、Anthropic的Claude 3.7等模型的相继爆火，将这条新法则推到了舞台中央。

推理Scaling Law的本质

传统的Scaling Law告诉我们：模型性能随参数量、数据量、训练算力的增加而提升——这些都发生在训练阶段。

推理Scaling Law则揭示了一个反直觉的事实：模型在推理时调用的计算量（称为"推理思考预算"），同样遵循规模效应。 给定一道难题：

• 模型直接输出答案，可能答错
• 让它一步步思考（Chain-of-Thought），正确率提升
• 给它更多时间、更多推理步骤，甚至让它"自我验证"——正确率可以进一步大幅提升

这意味着，推理阶段的算力投入，本质上是对"思维质量"的投资。

数字说话

在数学竞赛（AIME 2025）、代码能力测试（Codeforces）等基准上，推理Scaling Law的效果令人震撼：

模型	思考token数	AIME 2025准确率
GPT-4o（直接回答）	~0	9.3%
o1	中等	74.6%
o3（低推理）	较多	85.7%
o3（高推理）	极多	87.3%

随着推理计算量增加，准确率从个位数跃升至近九成——这不是微调能达到的效果。

为什么这让AI Agent成为可能

理解推理Scaling Law，是理解下一代AI Agent的钥匙。

Agent的核心矛盾