Калькулятор лимитов LLM API
На уровне Start у Anthropic модель Claude Sonnet 5.5 допускает 1 000 запросов, 2 000 000 входных и 400 000 выходных токенов в минуту, поэтому запросы по 3 000 входных и 500 выходных токенов идут примерно по 667 в минуту и 100 000 запросов занимают 150 минут; если 80% входа берётся из кэша, темп растёт до 800 в минуту и 125 минут (лимиты проверены 2026-10-16).
Как пользоваться
- Выберите пресет уровня Claude или оставьте «Свои значения» и введите лимиты из консоли. Для лимита, который не действует, укажите 0.
- Введите входные и выходные токены одного запроса, долю входа из кэша промптов и то, исключаются ли кэшированные токены из входного лимита.
- Введите число запросов в задаче и время одного запроса. Смотрите скорость, тормозящий лимит, время, параллелизм и интервал.
Как считается
Запросы в минуту = наименьшее из RPM, входного TPM ÷ учтённые входные токены, выходного TPM ÷ выходные токены и общего TPM ÷ (учтённый вход + выход).
Учтённые входные токены = входные токены × (1 − доля кэша), если кэшированные токены исключаются, как у большинства моделей Claude; иначе учитывается весь вход.
Время = запросы ÷ запросы в минуту. Если дневной лимит (RPD) меньше того, что позволяют минутные лимиты, каждый полный день обрабатывает RPD запросов, а остаток идёт в последний день.
Параллелизм = запросы в секунду × секунды на запрос с округлением вверх (закон Литтла). Интервал = 60 ÷ запросы в минуту секунд.
Частые вопросы
Какой лимит обычно срабатывает первым?
При длинных промптах обычно лимит входных токенов, при длинных ответах лимит выходных, при коротких запросах лимит числа запросов. Калькулятор показывает, какой лимит задаёт темп.
Учитываются ли кэшированные токены в лимитах Claude?
По документации Anthropic, у большинства моделей Claude во входной лимит в минуту идут только некэшированные входные токены и записи в кэш, поэтому чтения из кэша повышают реальную пропускную способность. Исключение составляет Claude Haiku 3.5.
Почему ошибки 429 бывают ниже лимита?
Лимиты применяются на коротких интервалах по алгоритму token bucket, поэтому всплеск может превысить лимит даже при нормальном среднем за минуту. Распределяйте запросы с показанным интервалом и наращивайте постепенно.
Где пресеты OpenAI и Gemini?
Их лимиты зависят от модели и уровня аккаунта и показаны в панели каждого аккаунта, поэтому страница оставляет ручной ввод вместо догадок. Перенесите числа со своей страницы лимитов.