有个做内部工具的朋友上周把 API 调用记录甩给我:为了压成本,他把新模型的 reasoning 档位从 high 一路调到了"不推理",理由是"少想就少花钱"。结果一个月跑下来,单任务均价比调之前还高了一截,更麻烦的是工单里"答非所问"的反馈多了起来。他对着账单反复确认,怀疑是不是计量出了 bug。
不是计量的问题。是省钱的那个旋钮,位置变了。
一个模型,六档价
OpenAI 上周发布的 GPT-6.1 Terra,标价是输入每百万 token 1 美元、输出 5 美元、命中缓存的输入 0.05 美元——比上一代 Terra 直接减半,只有旗舰 Astra 的十分之一,官方称任务完成速度还比 Astra 和 Sol 快三倍以上。看起来是个标准的降价故事。
但更值得看的是另一组数字。独立评测机构 Artificial Analysis 在 10 月 26 日把 Terra 的六个推理档位各跑了一遍,得到的是这样一条曲线:
不推理:智能指数 33.5,单任务 $0.107,输出 4,737 token,硬答率 72%
low:36.2,$0.055,2,681 token,46%
medium:41.3,$0.095,5,835 token,44%
high:43.9,$0.134,9,027 token,43%
xhigh:45.4,$0.194,14,551 token,42%
max:48.1,$0.403,35,096 token,38%
同一份权重、同一份价目表,最贵档和最便宜档之间差了七倍多。max 比 low 多花 7.4 倍的钱,换回 11.9 个指数点;而 max 比 xhigh 只多 2.7 分,钱却要多一倍。这条曲线的最后两级,明显越往上越不划算。
"少想"为什么反而更花钱
最反直觉的是第一行:不推理档 $0.107,比开 low 推理的 $0.055 贵了将近一倍,分数反而低 2.7 分。
原因藏在输出 token 那一列。不推理档每个任务平均写 4,737 个 token,low 档只写 2,681 个。模型不"打草稿",就把想到的第一句直接往外吐,来回绕、反复改口,写得更长,还没写对。硬答率的数据也是同一个方向:遇到不会的问题时,不推理档硬答比例 72%,low 档 46%,max 档降到 38%。
OpenAI 自己的内部测试指向同一个结论——用一组容易诱发错误的提示词测,低推理强度下错误率从上一代的 53.6% 降到 16.7%,拉满推理降到 4.3%。
所以"少想就等于少花钱"这个直觉,在按输出 token 计费的模型上是反的。你省下的思考 token,会以几倍的篇幅回到输出那一栏,还附赠一批需要人工返工的错答案。这和过去几个月大家慢慢摸出来的规律是同一条:账单真正敏感的不是标价,而是模型为一个任务写了多少字。AA 在 10 月 24 日那轮测算里已经显示过,两个标价一模一样的模型,单任务成本能差 2.75 倍,差别全在输出量上。
档位不该只设一个值
既然档位本身就是一张价格表,它就不该是一个全局配置。
这两天有个可以抄的做法:Requesty 上线了 Auto Routing 的公测,允许团队用自然语言写规则,把 Claude Code 的会话按首条消息自动分给不同模型,一次判定、整段会话锁定。他们自己给出的数据是模型成本降 42%、延迟降 30%,对比基准是全程用 Opus 5.5。
这套思路搬到档位上完全成立。我现在的分法大概是这样,供参考:
分类、抽取、格式转换、打标签这类有标准答案的活,走 low 或不推理,答错了也容易在下游校验里拦下来;
常规问答、摘要、中等长度生成走 medium,这是覆盖面最大的一档;
多步规划、要读图的电脑操作、复杂代码改动才上 high 及以上;
卡住了再升级,而不是一上来就把档位拉满。
落地就三件事。第一,先量自己的:拿 50 到 100 条真实任务,每个档位都跑一遍,记下"分数 / 单任务成本 / 输出 token"三个数,画出来的曲线很可能和上面那张不太一样。
第二,把档位和模型名一起挪进配置,别写死在业务代码里——我自己是把多家来源的调用收在 EasyAPI 这样的聚合入口后面,换档位就是改一行配置的事;当然这不是非它不可,自己包一层薄代理也一样。
第三,账单得能按模型和档位拆开看,EasyAPI 这类入口的用处也就在这里,省的是找数据的时间,不然你根本不知道那 42% 是从哪一档省出来的。
写在最后
同一天 Anthropic 交了 S-1。里面有个数字挺有意思:上半年算力与基础设施支出近 90 亿美元,占营收比例从去年同期的 201% 降到了 55%。公司把其中一部分归因于训练和推理算法的持续改进——同样的算力,能干更多活。
供给端确实在变便宜。但这不保证你的账单会跟着降,中间还隔着一层你自己设的档位。
以前的成本功课是"选哪个模型",现在是"同一个模型,这一路请求该开哪一档"。旋钮变小了,也变多了。




