Token 的残酷算账：开源赢了流量，闭源赢了钱，而你可能两者都输

2026 年 7 月初，Vercel 公布 AI Gateway 上周数据：DeepSeek 处理了平台 1/3 的 Token 流量，智谱 GLM-5.2 排到第四。但同周 Anthropic 一家拿走了 AI 总支出的一半以上（来源：Vercel 仪表盘，经 AI 前线/InfoQ 2026-07-10 报道）。

流量榜 vs 收入榜，分裂得很彻底。

如果你抽屉里还压着去年签的 Cursor 企业合同，翻出来看一眼续签价格——Priceline 翻 4 倍，Uber 4 月就把全年 AI 编码预算烧光。

你以为在"自建电厂"，其实在烧煤发电

Token 是 AI 时代的电力。去年所有人抢着接电表，今年部分人接到了第一张天价账单。

腾讯上半年给员工的 AI 额度一度高达每人每月 2000 美元——折合人民币约 1.4 万，几乎追平一线城市正式员工的月薪。腾讯 2025 研发大数据报告显示，公司本部及直管子公司约 8.74 万人，产研占 76% 即约 6.64 万人。哪怕按人均 3000 元/月折算，名义上的年度 Token 预算上限就能逼近 24 亿（来源：硅基君 2026-07-13《是时候该给Token算算ROI的账了》，引腾讯报告与九派财经）。

德勤的调研更吓人——他们对 548 家大型企业摸底，74% 过去一年投资 AI，超半数 AI 支出已经占数字化预算的 36%。按此推算，一家年收入约 130 亿美元的企业，年 AI 预算能做到 7 亿美元（来源：同上）。

但产出呢？

Jellyfish 统计了一组让人沉默的对比：消耗 Token 最多的那批工程师，生产力是低使用者的 2 倍，Token 消耗却是低使用者的 10 倍。花 10 倍的钱、买 2 倍的产出，剩下 8 倍差价全在烧 AI 自己都没搞明白的乱写代码（来源：Jellyfish 调研，引自硅基君 2026-07-13）。

边际收益递减，已经写在账单上了。

Palantir CEO Alex Karp 公开把 OpenAI 与 Anthropic 的收费模式骂了一顿：企业付出一大笔钱，买到的可能是一堆没创造价值的 Token（来源：CNBC，2026-07）。Palo Alto Networks CEO Nikesh Arora 话说得更直接：Token 价格还得再降 90%，企业才能谈大规模部署（来源：同前）。

但压在 CTO 心上的真正疼点，是机房那台"自建更便宜"的 GPU 集群。

52% 利用率：自建推理的死亡线

去年很多技术负责人算过一笔账：API 单价刨掉厂商利润，自建不是更便宜？账本逻辑是对的，但藏着关键一行——GPU 利用率。

一家月流水 50 万美金的 AI 客服公司，年初上了 4 张 H100 搞自建推理，以为摆脱了 API 厂商。结果上线一查监控：实际利用率 30%，剩下 70% 时间，H100 在机房里纯粹空转。

把账拆成五维（来源：彭子玲 2026-07-10《AI 推理成本首次算清》五维成本模型，4×H100、70B 模型年成本）：

成本项	年支出	闲置时还在烧钱？
GPU 折旧	$40,000	是，逐秒计费
服务器其它硬件	$15,000	是
电力+机房制冷	~$22,000	是
带宽	$12,000	否
运维人力	$24,000	是，24/7 在岗

利用率 30%，意味着 每年 28,000 美金的 GPU 折旧是被空转吃掉的——足够再买一张 H100。制冷、电力、运维照样付。

有人会问：那我加负载，把利用率拉上去不就行了？问题在于请求量不是恒定的。深夜、周末、节假日，GPU 该空转还是空转。而 API 厂商调度了几千家客户的波峰波谷去对冲，利用率能稳在 90% 以上。

彭子玲把这件事算到了小数点后：自建比 API 便宜的临界点是 GPU 利用率 52%。低于这条线，自建更贵；高于这条线，自建才开始便宜（来源：彭子玲 2026-07-10，蒙特卡洛敏感性分析、NVIDIA 官方数据校验偏差 4.7%）。

你省下的那部分 API 厂商利润，抵不上你浪费的 GPU 折旧。

那句"自建更便宜"成了半真半假的共识。

开源拿了 29% 流量，Anthropic 拿走了 50% 钱

OpenRouter 上个月数据更直接：DeepSeek V4 Flash 周处理 5.3 万亿 Token。Anthropic 的 Opus 4.8 周处理约 2 万亿 Token。但 Opus 4.8 单价是 V4 Flash 的 23 倍——每百万 Token $1.37 vs $0.06（来源：OpenRouter 周报，引自 AI 前线 2026-07-10）。

按这个价格差推算，Opus 4.8 用量明显更低，但收入更高。

Decagon CEO Jesse Zhang 写了一段话很到位：开源模型的成功，不是因为前沿模型失血，是因为应用市场扩张的速度比迁移更快。Decagon 自己的产品 90% 负载跑在开源模型上，但花在 Anthropic 上的预算一点没少（来源：Jesse Zhang Threads/推文 2026-07，转引自 AI 前线）。

真正高价值、不能出错的推理任务——给客户出法律条款、做金融风控判断、回答医疗问诊——没人敢交给便宜模型。这才是 Anthropic 那一半收入的来源。

结构上叫双层模型经济：底层把海量吞吐交给便宜开源模型，顶层把关键推理交给前沿闭源模型。两个世界并行不悖，各自赚钱。

DeepSeek 在这里卡得很毒。V4 Flash 已经把"价格逼近开源 + 性能逼近前沿"合到一起。如果 V5 把和 Opus 的性能差距再压 10%，"只比 DeepSeek 强一点，价格贵好几倍"的中间地带会被吃掉。

Dario Amodei 自己放话：从没见过哪个开源是真正决定性的（来源：转引自 AI 前线 2026-07-10）。他现在每周拿 Anthropic 的销售额赌这句话。

三笔账，明早之前算清楚

如果你是 CTO，文章读到这里，你应该已经打开三个后台了。

第一笔：Token 边际 ROI。 拉出最近 3 个月的 Token 消耗和工程产出对比，算出边际递减点。尤其把 Agent 循环重试、反思的无效消耗单独拆出来——去年一项针对 Agent 编程任务的研究发现，同一任务消耗最多能差 30 倍。

第二笔：GPU 集群利用率。 实测上个月加权平均利用率。低于 52%，立即停止新购 GPU，先把负载合并调度优化一轮；仍上不去的，回流到 API。

第三笔：模型分层路由。 你的应用里，多少负载跑在 5 美元/百万 Token 的 Opus，多少可以用 0.06 美元的 DeepSeek 替掉？把"默认走顶级模型但实际场景不挑"的调用全标出来，换路由。

我敢说第三笔账算完，月度 Token 账单至少砍 30%，用户几乎感知不到差异。

去年那波"Tokenmaxxing"——鼓励员工无脑多刷 Token 以示拥抱 AI——的幼稚游戏该结束了。

Token 不是生产力指标，Token 是成本指标。

算不清楚这笔账的人，明年就被算账的人替了。