LLM 레이트 리밋 계산기
Anthropic Start 티어의 Claude Sonnet 5.5는 분당 요청 1,000건, 입력 2,000,000토큰, 출력 400,000토큰까지 허용합니다. 입력 3,000, 출력 500토큰 요청은 분당 약 667건이라 100,000건에 150분이 걸리고, 입력의 80%를 캐시하면 분당 800건, 125분으로 줄어듭니다(한도 확인일 2026-10-16).
사용 방법
- Claude 티어 프리셋을 고르거나, 직접 입력을 두고 콘솔에 나온 한도를 넣으세요. 적용되지 않는 한도는 0으로 두세요.
- 요청 1건의 입력·출력 토큰, 입력 중 프롬프트 캐시에서 읽는 비율, 캐시 토큰이 입력 한도에서 빠지는지를 정하세요.
- 작업의 총 요청 수와 요청 1건에 걸리는 시간을 넣으세요. 처리량, 먼저 걸리는 한도, 작업 시간, 동시성, 요청 간격을 확인하세요.
계산 방법
분당 요청 수 = RPM, 입력 TPM ÷ 집계 입력 토큰, 출력 TPM ÷ 출력 토큰, 합산 TPM ÷ (집계 입력 + 출력 토큰) 가운데 가장 작은 값.
집계 입력 토큰 = 캐시 토큰이 한도에서 빠지면(대부분의 Claude 모델) 입력 토큰 × (1 − 캐시 비율), 아니면 입력 토큰 전부.
작업 시간 = 요청 수 ÷ 분당 요청 수. 일 한도(RPD)가 분당 한도로 가능한 양보다 작으면 하루마다 RPD만큼 처리하고 나머지는 마지막 날에 처리합니다.
동시성 = 초당 요청 수 × 요청당 초, 올림(리틀의 법칙). 요청 간격 = 60 ÷ 분당 요청 수 초.
자주 묻는 질문
보통 어떤 한도가 먼저 걸리나요?
프롬프트가 길면 입력 토큰 한도, 답변이 길면 출력 토큰 한도, 요청이 짧으면 요청 수 한도가 먼저 걸리는 편입니다. 계산기가 속도를 정하는 한도를 알려 줍니다.
Claude 레이트 리밋에 캐시 토큰도 들어가나요?
Anthropic 문서에 따르면 대부분의 Claude 모델은 캐시되지 않은 입력 토큰과 캐시 쓰기만 분당 입력 토큰 한도에 들어갑니다. 그래서 캐시 읽기가 많을수록 실제 처리량이 늘어납니다. Claude Haiku 3.5는 예외입니다.
한도보다 적게 보내는데도 429 오류가 나는 이유는?
한도는 토큰 버킷 방식으로 짧은 간격마다 적용됩니다. 분 평균은 괜찮아도 순간적으로 몰리면 넘을 수 있습니다. 표시된 간격으로 나눠 보내고 천천히 늘리세요.
OpenAI·Gemini 프리셋은 왜 없나요?
두 회사의 한도는 모델과 계정 등급에 따라 달라지고 계정 대시보드에 표시됩니다. 추측하지 않고 직접 입력으로 남겨 두었으니 한도 페이지의 숫자를 옮겨 넣으세요.