降低 AI Token 成本:上下文、模型分工、缓存与成本追踪
发布日期 2026-10-27
如果你通过 API 使用 AI 模型做正式工作——编程代理、文档处理、客服回复草稿——账单的大头通常来自你本不必发送的输入 token。本指南介绍四个不降低回答质量、又能压低成本的习惯,并附上当前的标价,方便你自己核算。
当前价格(美元/每百万 token)
| 模型 | 输入 | 输出 | 缓存读取 | 缓存写入(5 分钟) |
|---|---|---|---|---|
| Claude Opus 5.5 | $4 | $20 | $0.20 | $5 |
| Claude Sonnet 5.5 | $2 | $10 | $0.10 | $2.50 |
| Claude Haiku 5.5(提示词 ≤100K token) | $0.10 | $0.50 | $0.01 | $0.125 |
来源:anthropic.com/pricing,核对日期 2026-10-19。该页面列出批处理(batch)可享 50% 折扣。提示词超过 100K token 时,Haiku 5.5 的价格更高。价格会变动——做预算前请查看该页面。
1. 只发送任务所需的文档
最常见的浪费,是把整个代码仓库、手册或聊天记录“以防万一”全部粘贴进去。每一次请求都要为这些内容再付一次费。
- 先检索(grep、文件列表或索引),再只发送匹配的文件或章节。
- 优先使用带行号的片段,而不是整个文件。
- 对于很长的对话,用一段简短的文字总结另开新对话,而不是带着 100 轮历史继续。
2. 按步骤拆分工作并分配模型
| 步骤 | 典型模型档位 |
|---|---|
| 分类、打标签、提取字段 | 最小 |
| 起草、常规代码修改 | 中等 |
| 规划、疑难调试、最终审查 | 最大 |
根据上面的价格表,一百万输入 token 在 Opus 5.5 上是 $4,在 Haiku 5.5 上是 $0.10——相差 40 倍。把某一步降级之前,先用小样本测试质量:一次便宜但需要重试两次的调用并不便宜。
3. 维护一个项目摘要文件——并缓存它
- 写一个简短的文件:项目是什么、目录结构、约定、当前目标。把它放在每次请求的最开头。
- 由于它在多次调用之间不变,很适合使用提示词缓存:第一次写入之后,在 Opus 5.5 上每百万 token 的读取费用是 $0.20 而不是 $4——仅为正常输入价格的 5%。
- 会变化的内容(日期、用户的问题)要放在缓存部分之后。提示词靠前位置的任何改动都会让缓存失效。
4. 按任务而不是按请求追踪成本
- 从每个响应的 usage 字段记录输入、输出和缓存读取的 token 数,并标注任务名称。
- 每周按任务汇总,再乘以上面的价格。
- 只看排名前三的任务。过大的上下文或不匹配的模型通常就藏在那里。
快速检查清单
- 提示词中稳定的部分是否放在最前面并已缓存?
- 我是否在片段足够的情况下发送了整个文件?
- 这一步能否用更小的模型达到同样的质量?
- 这项工作能否等待批处理(5 折)?
常见问题
- 缓存写入比普通输入更贵吗?
- 是的——在 Opus 5.5 上,5 分钟缓存写入是 $5,而普通输入是 $4。只要同一前缀被再次读取,就立刻回本。
- 批处理一定划算吗?
- 只适用于不需要立刻得到答案的工作,例如夜间的文档处理。
来源
- Anthropic 定价 — 核对日期 2026-10-19
相关(韩语): AI 制作日志·开发知识(AI 제작 로그·개발 지식)
🌐 English · Español · Bahasa Indonesia · 日本語 · ไทย · Tiếng Việt · 中文
📤 공유