FROM THE BOOKSHELF / A PAGE TO KEEP
Token 工厂经济学是个伪命题——Token 消耗千倍增长背后,企业正在被 Token 不经济反噬
发布于 2026-07-06
2026 年 6 月 27 日,笔记侠刊出长文《黄仁勋:Token 工厂,全新工厂经济体系已诞生》。两天后,腾讯研究院李刚发出《Token 不经济》,揭出微软 6 个月内收回内部 Claude Code 许可、Uber 4 个月烧光 2026 全年 AI 编程预算、Meta 撤下 Tokenmaxxing 排行榜。
2026 年 6 月 27 日,笔记侠刊出长文《黄仁勋:Token 工厂,全新工厂经济体系已诞生》。两天后,腾讯研究院李刚发出《Token 不经济》,揭出微软 6 个月内收回内部 Claude Code 许可、Uber 4 个月烧光 2026 全年 AI 编程预算、Meta 撤下 Tokenmaxxing 排行榜。
同一周,两篇重磅,一个讲"工厂",一个讲"陷阱"。它们说的是同一件事。
Token 工厂经济学是个伪命题——Token 消耗千倍增长背后,企业正在被 Token 不经济反噬
一、Token 工厂的真相:日均 1000 亿到 140 万亿,这账根本没人算清楚
黄仁勋在 GTC 2026 公开演讲里把 AI 数据中心叫"Token 工厂"(来源:笔记侠转述)。一个月后,国家数据局局长刘烈宏在中国发展高层论坛 2026 年会上把 Token 的中文名定为"词元"。宏大叙事已经搭好:Token 像电表的"度"、像出租车的"公里"、像打印店的"张数",是 AI 时代连接算力投入与业务产出的最小计量单位(笔记侠《Token 工厂》原文用过的类比,可二次加工)。
数字也漂亮。Token 日均消耗从 2024 年初的 1000 亿,跃升到 2026 年 3 月的 140 万亿,两年涨超 1000 倍(来源:笔记侠《Token 工厂》,2026-06-27)。Token 工厂听起来像第二次工业革命的电厂集群——标准化、可计价、批量生产。
但宏大叙事从来不替你结账。Token 工厂最关键的"价格"参数,中国官方刚刚给它配齐:2026 年 3 月 23 日,国家数据局局长刘烈宏在中国发展高层论坛 2026 年会上把 Token 的中文名定为"词元"(来源:笔记侠转述)。"度"有了国标,"公里"有了国标——现在"词元"也有了。计量单位统一是好事,但单位统一不等于单位便宜。
把"工厂"这个词拆开看,"工厂"的前提是单位成本随规模下降。纺织厂、钢铁厂、芯片厂都符合这条曲线。Token 工厂刚好相反:**单位成本不降反升。**Haiku 3.5($0.80/$4.00)到 Haiku 4.5($1.00/$5.00)涨 20%;GPT 4o mini($0.15/$0.60)到 4.1 mini($0.40/$1.60)翻一番;Gemini Flash 2.0($0.10/$0.40)到 2.5($0.30/$2.50)输出价涨 6 倍;国产 GLM-5 比 GLM-4.7 涨 67–100%(李刚《Token 不经济》原表)。卷价格的红海,价格地板反而悄悄抬高。

把"工厂"这个标签贴到 Token 身上,是一次成功的概念营销,不是一次经济学发现。
二、Token 不经济的五重证据:烧钱、烧人、烧信任
李刚给这种"用得越多、单价越贵、净收益越负"的现象起了个名字:Token 不经济。证据不是孤例,是五张相互咬合的账单。

**账单 1:模型在涨,企业账单更长。**Anthropic 的分层定价(Opus $15/$75、Sonnet $3/$15、Haiku $1/$5)是教科书级别的"用分层榨利润"——Opus 4.5 之后不仅没降价,反而借 Mythos Preview 拉到 $25/$125,又用 Fable 5 在 $10/$50 这个层级加"安全约束松紧"做二次定价。截至 2026 年 5 月,Anthropic 的 ARR 从 2024 年底约 10 亿美元飙到约 450 亿美元(李刚《Token 不经济》)。这个数字是厂商的喜报,是企业 IT 部门的噩耗。
账单 2:员工的 token 消耗没有 ROI。微软内部开放 Claude Code 仅 6 个月,成本暴涨、产出质量差,被收回;Uber 4 个月烧完全年预算;亚马逊部分员工"无意义消耗 token";Meta 撤下内部 Tokenmaxxing 排行榜(李刚《Token 不经济》原段引述)。这些公司不差钱,差的是算不清"花出去的 token 到底换回多少业务结果"。
**账单 3:Agent 自己在烧。**Agent 架构里的结构性跑冒滴漏:上下文陷阱(context trap)——历史对话、代码文件、报错信息一起塞给模型,输入 token 比裸问高几个数量级;分词器黑箱——token 数不等于字数,一个汉字 1–2 token,标点也是 token;技能冗余(skill redundancy)——多 Agent 协同中重复调用同一个工具;沟通税与长程熵增(communication tax and entropy drift)——多 Agent 互相理解也要 token 喂(李刚《Token 不经济》)。
**账单 4:长上下文的推理开销不是线性增长。**小红书 RedKnot 的实测数据是少有的工程侧硬数据:长上下文推理,KV Cache 沿"注意力头"(attention head)拆开后,TTFT(首字延迟)加速 1.6–3.54×,单卡并发提升 4.7–7.8×,预填充 FLOPs 削减 67–79.5%(REDtech《让 KV Cache「按头分家」》)。传统方案下"长 prompt 烧得慢"不是错觉,是结构性问题。
**账单 5:短上下文的瓶颈根本不在注意力。**RedKnot 还指出 2–8K 片段下 FFN 贡献 57–62% 的 TTFT——这就是说,就算你把注意力重算降到零,FFN 这块成本也动不了。稠密 + attn_mask 路径在 PyTorch SDPA 上还有 4.9–7.6× 的内核惩罚(REDtech 论文 3.4 节)。你想靠"少写几行 prompt"省 token,模型侧还给你一个 FFN 黑洞等着。
五张账单叠在一起,就是"工厂"招牌上最刺眼的那道裂痕。
三、救火路径只有两条:要么换个更省钱的引擎,要么换个更诚实的账本
小红书 RedKnot 选了第一条路——把 KV Cache 沿注意力头拆开。所有 head 不应该绑在同一段 token 上,全局头(3.2–16.6%)需要看完整上下文,局部头(83.4–96.8%)只看滑动窗口,分类离线做一次、运行时零开销。再配合稀疏 FFN(只对注意力得分 top-k token 跑稠密 FFN)和 SegPagedAttention(按 (层, 头) 分页存储 + 变长注意力内核,全程不上 attn_mask)。这是 2026 年国产推理引擎最有工程价值的一篇论文(来源:REDtech 2026-06-29,论文 arxiv 2606.06256,代码 https://github.com/rednote-machine-learning/RedKnot)。

**这套机制的妙处是:算法、存储、执行三个粒度统一到同一个事实——不同 KV head 有不同的上下文需求。**之前的主流做法是"算法上省字节、存储上全绑死、运行时用 attn_mask 凑稀疏",结果算法省的被存储浪费对冲,存储省的被内核浪费对冲。RedKnot 一次性把这三处错位全摆平——这才是它能拿到 1.6–3.54× 加速的根本原因(来源:REDtech《让 KV Cache「按头分家」》)。
但工程侧的优化只能给企业省到 30%–80%,省不掉"用得越多单价越贵"这条结构曲线。
第二条路是换个更诚实的账本。Anthropic 用 Opus/Sonnet/Haiku 三层 + Fable 安全分层做了一次示范:把"性能分层 + 风险分层 + 定价分层"摆到台面上,让企业 IT 部门能像审计电费一样审计 token 账单。具体到执行层,三条建议给开发者:
- 写 prompt 前先算账。把"上下文陷阱"当回事——历史对话、工具日志、错误信息全塞进去,token 消耗会从几十涨到几千。能切片就切片,能引用就引用,不让 Agent 读整本《红楼梦》。
- 分清用 Haiku 还是 Opus。日常代码补全、文档改写、单元测试用 Haiku 或 Sonnet 这层就够;架构设计、复杂 bug 定位、关键决策才上 Opus。Anthropic 的分层不是营销,是把"该花的钱"和"不该花的钱"显式标出来。
- 把"FFN 黑洞"记在心上。RedKnot 数据显示 2–8K 短上下文里 FFN 主导 TTFT——所以"少写 prompt"不是省 token 的核心,核心是少让模型跑 FFN。把"长 prompt + 短回答"换成"短 prompt + 多次工具调用",结构上更便宜。
结尾:Token 工厂的下一站是 Token 配电站
黄仁勋的"Token 工厂"是个营销好词,但"工厂"这个词暗示的是规模收益,Token 给你的却是规模惩罚。Token 消耗千倍增长的同时,单价在涨、模型能力在涨、推理开销在涨。微软收回 Claude Code 不是因为它不好用,是因为它太好用、好用到 IT 部门签不了下个月的账单。
Token 工厂经济学的下一站,不是更多工厂,是配电站——把"哪一度电给谁用"算清楚,再谈发电。
国家数据局已经把 Token 命名成"词元",这是给"电表"上了国标。但**"词元"上国标不等于"词元"上保险。**用得越多、单价越贵、净收益越负的曲线不解决,工厂就是吞金窟。
下一个季度的开发者大会上,**会看到更多企业把"Token 账单审计"从工程部挪到 CFO 直线汇报。**这是 2026 下半年最值得盯的一个组织变化——它决定了你写的 prompt 是被当成"研发投入"还是"被审计的成本项"。
**企业 IT 部门要做的不是"控 token",是把"词元"这个新计量单位接进现有的预算系统。**你今天算电力按"度"算、算 SaaS 按"席位"算、算云资源按"vCPU 小时"算——这些计量单位各自有各自的费率表、各自的预算归口、各自的审计流程。词元现在还在"研发部自管"的灰色地带,下一步一定要进财务的标准化报表。这一天来得越早,企业在 AI 上的"工厂幻觉"破得越干净。