본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

토큰 가격(Token pricing)

토큰 가격(token pricing)은 대부분의 AI 모델 API가 요금을 매기는 방식입니다. 보내는 입력 토큰 100만 개당 정해진 가격과, 모델이 생성하는 출력 토큰 100만 개당 별도의, 보통 더 높은 가격이 있으며, 캐시된 입력과 배치 작업에는 할인이 적용됩니다.

다른 이름: price per million tokens, input vs output tokens

작성 Divya Sharma · 2026년 11월 16일 확인 · 리뷰 방식

제공업체는 요청이나 단어가 아니라 토큰 단위로 청구합니다. 예를 들어 Anthropic의 가격 페이지는 가격을 MTok, 즉 100만 토큰당으로 표시하며, 기본 입력, 캐시 쓰기, 캐시 적중, 출력을 별도 열로 나눕니다. 입력은 보내는 모든 것, 즉 시스템 프롬프트, 대화 기록, 검색된 문서, 도구 정의를 포함합니다. 출력 토큰은 모델이 돌려 쓰는 것으로, 추론 모델의 숨겨진 추론 토큰도 포함합니다.

비용 계산

요청당 비용은 입력 토큰 곱하기 입력 가격에 출력 토큰 곱하기 출력 가격을 더한 값이며, 각각 100만으로 나눕니다. 긴 채팅은 매번 전체 기록을 보내므로 턴당 비용이 점점 커집니다. 출력은 보통 입력보다 몇 배 비싸게 책정되므로, 말이 많은 모델이 더 싸 보이는 모델보다 비용이 더 들 수 있습니다.

청구액을 바꾸는 요인

프롬프트 캐싱은 반복되는 접두부에 더 적게 청구합니다. batch API는 기다릴 수 있는 작업에 할인을 줍니다. 일부 제공업체는 매우 긴 프롬프트나 특정 리전에 더 많이 청구합니다. 토크나이저도 중요합니다. Anthropic은 새 토크나이저가 같은 텍스트에서 약 30% 더 많은 토큰을 만든다고 밝히므로, 토큰당 가격을 모델 계열 간에 직접 비교할 수는 없습니다.

모델 비교

토큰당 가격은 품질 및 속도와 함께 볼 때만 의미가 있습니다. 세 번 재시도해야 하는 싼 모델은 싸지 않습니다. AI 모델 가격 조사는 제공업체별 정가를 추적하고, 순위는 비용과 함께 품질을 보여 줍니다.

관련 용어

토큰(LLM)
토큰(LLM token)은 언어 모델이 읽고 쓰는 텍스트의 기본 단위로, 보통 단어, 단어의 일부, 문장 부호, 바이트 하나입니다. 가격, 속도, 컨텍스트 한도는 모두 토큰 단위로 계산합니다.
출력 토큰(Output tokens)
출력 토큰(output tokens)은 언어 모델이 응답에서 생성하는 토큰입니다. 입력 토큰과 따로 계산되고 청구되며, max_tokens 설정으로 응답 하나에 담길 수 있는 수의 상한을 정합니다.
프롬프트 캐싱(Prompt caching)
프롬프트 캐싱(prompt caching)은 긴 시스템 프롬프트나 문서처럼 반복되는 프롬프트 접두부의 처리된 형태를 저장해, 같은 접두부로 시작하는 이후 요청을 더 싸고 빠르게 만드는 API 기능입니다.
배치 API
배치 API(batch API)는 대량의 모델 요청을 하나의 작업으로 제출하고 결과를 나중에 받는 방식으로, 호출마다 기다릴 필요가 없습니다. 제공업체는 여유 용량이 있을 때 작업을 실행하며, 보통 요금을 더 적게 받습니다.
토크나이저(Tokenizer)
토크나이저(tokenizer)는 텍스트를 토큰으로 나눠 언어 모델이 처리할 수 있는 숫자 ID로 바꾸고, 모델이 출력한 ID를 다시 텍스트로 바꾸는 구성 요소입니다.
속도 제한(Rate limit, API)
속도 제한(rate limit)은 계정이 일정 시간 동안 API를 쓸 수 있는 양의 상한으로, 보통 분당 요청 수(RPM)와 분당 토큰 수(TPM)로 정합니다. 한도를 넘는 요청은 거부되며, 대개 HTTP 429 오류가 납니다.

출처