Cắt giảm chi phí token AI: ngữ cảnh, chia mô hình, cache, theo dõi
Đăng ngày 2026-10-27
Nếu bạn dùng một mô hình AI qua API cho công việc thực tế — agent lập trình, xử lý tài liệu, soạn thảo phản hồi hỗ trợ — thì phần lớn hóa đơn thường đến từ các input token bạn không cần phải gửi. Hướng dẫn này nêu bốn thói quen giúp cắt giảm chi phí mà không làm câu trả lời kém đi, kèm bảng giá niêm yết hiện tại để bạn tự tính.
Giá hiện tại (USD trên một triệu token)
| Mô hình | Input | Output | Đọc cache | Ghi cache (5 phút) |
|---|---|---|---|---|
| Claude Opus 5.5 | $4 | $20 | $0.20 | $5 |
| Claude Sonnet 5.5 | $2 | $10 | $0.10 | $2.50 |
| Claude Haiku 5.5 (prompt ≤100K token) | $0.10 | $0.50 | $0.01 | $0.125 |
Nguồn: anthropic.com/pricing, kiểm tra ngày 2026-10-19. Trang đó niêm yết xử lý theo lô (batch) giảm 50%. Giá Haiku 5.5 cao hơn với prompt trên 100K token. Giá có thể thay đổi — hãy kiểm tra trang trên trước khi lập ngân sách.
1. Chỉ gửi những tài liệu mà tác vụ cần
Sự lãng phí phổ biến nhất là dán cả một repository, một cuốn hướng dẫn hay lịch sử chat "phòng khi cần". Mỗi yêu cầu đều phải trả tiền lại cho toàn bộ chỗ đó.
- Hãy tìm kiếm trước (grep, danh sách tệp hoặc một chỉ mục), rồi chỉ gửi các tệp hoặc đoạn phù hợp.
- Ưu tiên trích đoạn có số dòng thay vì cả tệp.
- Với các cuộc trò chuyện dài, hãy bắt đầu cuộc mới kèm một bản tóm tắt ngắn thay vì mang theo 100 lượt trao đổi.
2. Chia việc theo từng bước và từng mô hình
| Bước | Hạng mô hình thường dùng |
|---|---|
| Phân loại, gắn thẻ, trích xuất các trường dữ liệu | Nhỏ nhất |
| Soạn thảo, thay đổi code thông thường | Trung bình |
| Lập kế hoạch, gỡ lỗi khó, rà soát cuối cùng | Lớn nhất |
Theo bảng giá ở trên, một triệu input token tốn $4 trên Opus 5.5 và $0.10 trên Haiku 5.5 — chênh nhau 40 lần. Hãy thử chất lượng trên một mẫu nhỏ trước khi chuyển một bước xuống mô hình rẻ hơn: một lệnh gọi rẻ hơn nhưng phải thử lại hai lần thì không hề rẻ hơn.
3. Giữ một tệp tóm tắt dự án — và cache nó
- Viết một tệp ngắn: dự án là gì, cấu trúc thư mục, quy ước, mục tiêu hiện tại. Đặt nó ở ngay đầu mọi yêu cầu.
- Vì nó không thay đổi giữa các lần gọi nên rất phù hợp với prompt caching: sau lần ghi đầu tiên, mỗi lần đọc chỉ tốn $0.20 thay vì $4 trên một triệu token ở Opus 5.5 — bằng 5% giá input thông thường.
- Đặt mọi thứ hay thay đổi (ngày tháng, câu hỏi của người dùng) sau phần được cache. Bất kỳ thay đổi nào ở phía trước trong prompt đều làm hỏng cache.
4. Theo dõi chi phí theo từng tác vụ, không phải từng yêu cầu
- Ghi lại số input, output và token đọc cache từ trường usage của mỗi phản hồi, gắn kèm tên tác vụ.
- Mỗi tuần một lần, cộng tổng theo tác vụ và nhân với giá ở trên.
- Chỉ xem ba tác vụ đứng đầu. Thường thì ở đó có một ngữ cảnh quá lớn hoặc một mô hình không phù hợp đang ẩn mình.
Danh sách kiểm tra nhanh
- Phần ổn định của prompt đã được đặt lên đầu và cache chưa?
- Tôi có gửi cả tệp ở chỗ chỉ cần trích đoạn không?
- Bước này có thể chạy trên mô hình nhỏ hơn mà chất lượng như nhau không?
- Công việc này có thể chờ xử lý theo lô (giảm 50%) không?
Câu hỏi thường gặp
- Ghi cache có tốn hơn input thông thường không?
- Có — trên Opus 5.5, ghi cache 5 phút là $5 so với $4 cho input thường. Nó có lợi ngay khi cùng một tiền tố được đọc lại.
- Xử lý theo lô có luôn đáng dùng không?
- Chỉ với công việc không cần câu trả lời ngay, chẳng hạn xử lý tài liệu qua đêm.
Nguồn
- Bảng giá của Anthropic — đã kiểm tra 2026-10-19
Liên quan (tiếng Hàn): Nhật ký chế tạo AI và kiến thức phát triển (AI 제작 로그·개발 지식, tiếng Hàn)
🌐 English · Español · Bahasa Indonesia · 日本語 · ไทย · Tiếng Việt · 中文