Máy tính bộ nhớ đệm prompt
Gửi phần đầu prompt 10.000 token 100 lần tới Claude Sonnet 5.5, mỗi lần thêm 500 token đầu vào mới và 300 token đầu ra, tốn 2,40 $ khi không đệm và 0,52 $ với đệm 5 phút: tiết kiệm 78% bắt đầu từ lần gọi thứ 2 (giá kiểm tra ngày 2026-10-16).
Cách dùng
- Chọn mô hình và, với Claude, thời gian lưu đệm: 5 phút hoặc 1 giờ.
- Nhập số token lặp lại ở mọi lần gọi (prompt hệ thống, tài liệu, định nghĩa công cụ), token đầu vào thay đổi, token đầu ra và số lần gọi.
- Đặt số lần ghi bộ nhớ đệm: 1 nếu các lần gọi đến trước khi hết hạn, nhiều hơn nếu hết hạn và ghi lại. Xem khoản tiết kiệm, hai tổng và điểm hòa vốn.
Cách tính
Không đệm = số lần gọi × (token lặp lại + thay đổi) × giá đầu vào + số lần gọi × token đầu ra × giá đầu ra, tất cả ÷ 1.000.000.
Có đệm = số lần ghi × token lặp lại × giá ghi + (số lần gọi − số lần ghi) × token lặp lại × giá đọc + cùng chi phí đầu vào thay đổi và đầu ra.
Giá ghi = giá đầu vào × hệ số: Claude 1,25 với đệm 5 phút và 2 với đệm 1 giờ, OpenAI 1,25 từ GPT-5.6 trở đi và 1 với mô hình cũ hơn, đệm ngầm định của Gemini 1.
Số lần gọi hòa vốn = 1 + số lần đọc nhỏ nhất r thỏa r × (giá đầu vào − giá đọc) > (hệ số − 1) × giá đầu vào. Giá tính bằng đô la Mỹ trên một triệu token.
Câu hỏi thường gặp
Khi nào bộ nhớ đệm prompt bắt đầu có lợi?
Với đệm 5 phút của Claude, có lợi từ lần gọi thứ hai đọc bộ nhớ đệm, vì giá đọc chỉ bằng một phần nhỏ giá đầu vào và phụ phí ghi chỉ 25%. Đệm 1 giờ có giá ghi gấp đôi giá đầu vào nên cần thêm một lần đọc.
OpenAI có tính phí ghi bộ nhớ đệm không?
Ở OpenAI bộ nhớ đệm hoạt động tự động. Theo hướng dẫn của OpenAI, GPT-5.6 và các mô hình sau tính 1,25 lần giá đầu vào cho việc ghi, còn mô hình cũ hơn không tính thêm.
Còn Gemini thì sao?
Gemini 2.5 và các mô hình mới hơn lưu đệm ngầm định và giảm giá khi trùng, nên ở đây việc ghi được tính như đầu vào thường. Bộ nhớ đệm tường minh còn tính phí lưu trữ theo triệu token mỗi giờ, trang này không tính khoản đó.
Vì sao khoản tiết kiệm thực tế có thể thấp hơn?
Mỗi nhà cung cấp có độ dài prompt tối thiểu để lưu đệm, chỉ phần đầu giống hệt mới trùng và bộ nhớ đệm hết hạn phải ghi lại. Hãy ghi số lần hết hạn vào ô số lần ghi và đối chiếu với số liệu sử dụng API trả về.