Kalkulator Batas Laju LLM
Di tingkat Start Anthropic, Claude Sonnet 5.5 mengizinkan 1.000 permintaan, 2.000.000 token input dan 400.000 token output per menit, jadi permintaan 3.000 token input dan 500 token output berjalan sekitar 667 per menit dan 100.000 permintaan butuh 150 menit; dengan 80% input dari cache lajunya naik ke 800 per menit dan 125 menit (batas dicek 2026-10-16).
Cara memakai
- Pilih preset tingkat Claude atau biarkan Kustom lalu ketik batas dari konsol Anda. Isi 0 untuk batas yang tidak berlaku.
- Masukkan token input dan output satu permintaan, porsi input yang dibaca dari cache prompt, dan apakah token cache tidak dihitung dalam batas input.
- Masukkan jumlah permintaan dalam pekerjaan dan lama satu permintaan. Lihat laju, batas yang menahan, waktu kerja, konkurensi dan jeda.
Cara menghitung
Permintaan per menit = nilai terkecil dari RPM, TPM input ÷ token input terhitung, TPM output ÷ token output dan TPM gabungan ÷ (input terhitung + output).
Token input terhitung = token input × (1 − porsi cache) jika token cache dikecualikan, seperti pada kebanyakan model Claude; jika tidak, semua input dihitung.
Waktu kerja = permintaan ÷ permintaan per menit. Jika batas harian (RPD) lebih kecil dari yang diizinkan batas per menit, tiap hari penuh memproses RPD permintaan dan sisanya di hari terakhir.
Konkurensi = permintaan per detik × detik per permintaan, dibulatkan ke atas (hukum Little). Jeda = 60 ÷ permintaan per menit detik.
Pertanyaan umum
Batas mana yang biasanya menahan lebih dulu?
Untuk prompt panjang biasanya batas token input, untuk jawaban panjang batas token output, dan untuk permintaan pendek batas permintaan. Kalkulator menyebut batas yang menentukan laju.
Apakah token cache dihitung dalam batas Claude?
Anthropic mendokumentasikan bahwa pada kebanyakan model Claude hanya token input tanpa cache dan penulisan cache yang dihitung dalam batas input per menit, jadi pembacaan cache menaikkan laju nyata. Claude Haiku 3.5 pengecualiannya.
Mengapa muncul error 429 padahal di bawah batas?
Batas diterapkan dalam interval pendek dengan token bucket, jadi lonjakan bisa melewati batas walau rata-rata per menit aman. Sebar permintaan sesuai jeda yang ditampilkan dan naikkan bertahap.
Di mana preset OpenAI dan Gemini?
Batas mereka bergantung pada model dan tingkat akun dan tampil di dasbor masing-masing akun, jadi halaman ini menjadikannya input kustom alih-alih menebak. Salin angka dari halaman batas Anda.