LZLZL/AI 工具链/接入层 · 成本
免费中 · 实践 二阶 接入层成本

token 成本账:
钱到底烧在哪

2026-08-21 · 贵的不是模型,是你把同一段话发了四十遍

很多人第一次看 agent 的账单会愣一下:明明只让它改了个小 bug。 原因不在模型单价,在于 agent 的每一轮都要把之前所有的内容重发一次。 这一篇讲这个机制,以及四个真正有效的杠杆。

本文写什么成本从哪来、哪些省法有效。 本文不列任何厂商的价目表,理由在第五节。 本文也不写我们自己花了多少。

核心机制:对话是无状态的

模型接口不记得上一轮。所谓「多轮对话」,实现方式是: 每一轮都把之前的全部内容 + 这一轮的新内容整个再发一次。

聊天时这没什么,因为每轮就几十个字。但 agent 的一轮里装的是:

装了什么量级
系统提示 + 工具定义固定开销,每轮都在
项目记忆文件固定开销,写多长就每轮付多长第 5 篇说的就是这件事)
它读过的每个文件的内容这是大头,而且只增不减
每条命令的输出一条 npm install 的日志可能比源码还长
之前每一轮的往返累积
总输入量 ≈ 单轮上下文 × 轮数而单轮上下文本身还在随轮数增长

所以成本对轮数是超线性的。一个跑了四十轮的任务,不是四十倍,是更多。

最大的杠杆:缓存

正因为每轮重发的绝大部分是上一轮发过的同样内容, 所以提供方普遍支持缓存:重复的前缀部分按更低的费率计。

要吃到这个折扣,只需要理解一件事:缓存命中的是「前缀」。 前面的内容一字不变,才算命中;在开头插一个字,后面全部作废

由此推出一条实操原则:稳定的东西放前面

系统提示、工具定义、项目记忆这些整段对话都不变的,应该在最前面; 变动的东西往后放。多数工具已经替你这么排了, 但你自己往上下文里塞东西时要注意别塞进开头

反过来,也解释了一个反直觉现象:频繁改项目记忆文件会让成本上升—— 不是因为文件变长,是因为每改一次,之前攒的缓存就全废了。

四个真正有效的省法

做法为什么有效代价
① 任务切小,一件事一个会话直接砍掉「轮数 × 上下文」里的两项。这是最有效的一条,没有之一你要自己做任务拆分
② 别让它 cat 大文件整个文件进上下文之后,后面每一轮都在为它付钱要教它用搜索定位而不是整读
③ 挡住高噪声输出安装日志、测试全量输出这类东西,信息密度极低但体积极大要配一下命令,或让它只看尾部
④ 低价值高频的活换便宜档上下文压缩、起标题、分类这些活不需要顶配要工具支持分槽位配置

第 ④ 条需要工具能给不同用途配不同模型。Hermes 是个现成例子: 它的主模型、辅助任务、压缩、兜底是各自独立的槽位, 每个槽位都能单独指定 provider / model / base_url—— 所以「压缩走便宜档、主模型走好档」是配置层面就能做到的事。

⚠ 一个常见的假省钱

「把上下文窗口调小一点省钱」——通常适得其反。窗口小了它就得多跑几轮、 多读几次同样的文件,总量反而上去了

同理,一味用最便宜的模型也可能更贵:它更容易做错,做错就要重来, 重来的那一轮把省下的差价全吃掉。算总账,不算单价。

怎么知道自己烧在哪

凭感觉估是估不准的,但也不必上什么复杂工具。三个动作就够:

动作能看出什么
看工具自带的用量显示大部分 CLI 都有;先知道量级,再谈优化
对比「一个大任务」和「拆成三个小任务」亲手量一次,比读十篇文章管用
盯住单次最长的那个会话成本通常极度集中,砍掉最长的那几个会话,账单就下来一大截

为什么这一篇不列价目表

因为价格变得比这个页面快。写进去当天就开始过期,而读者会照着一个过期的数字做决策—— 那比不给数字更糟

本站的规矩是:会过期的事实要么标上核对日期,要么不写。 价目表属于「标了日期也很快没用」的那一类,所以这里只给机制。 机制不会过期:重发、缓存前缀、超线性增长,换哪家都成立。

机制 模型接口无状态,多轮对话靠每轮重发全部历史实现;因此输入量随轮数超线性增长。 这是各家通用行为,不特指某一家。
缓存 按前缀命中——前缀一字不变才算命中,故「稳定内容前置」有效、 「频繁改动开头内容」会使缓存失效。
分槽位配置 Hermes 的主模型 / 辅助任务 / 压缩 / 兜底各自独立, 每槽位统一 provider / model / base_url。官方文档,2026-08-21 核。
本文没给的 任何厂商的具体价格、折扣比例或额度。价格变动快于本页更新频率, 请以各家官方定价页为准。
本文不提供的 我们自己的用量与花费。

相关接着读什么

二阶 · 接入层
中转 API 到底是什么:一个 base_url 的事
一阶 · 本地
项目记忆:写成什么样才真的生效
三阶 · 常驻
什么活值得自动化,什么只是自嗨
三阶 · 常驻
Hermes Agent:OpenClaw 的下一站
本文是教育与工程记录,不是任何第三方产品的推荐或测评。命令、配置键、价格与条款均以各家官方文档为准, 本文标注考证日期,随时可能变更 —— 照抄前请自己核一遍。 自建与自托管的安全责任在部署者本人:密钥、账号与数据的后果由你承担。