출력 토큰(Output tokens)
출력 토큰(output tokens)은 언어 모델이 응답에서 생성하는 토큰입니다. 입력 토큰과 따로 계산되고 청구되며, max_tokens 설정으로 응답 하나에 담길 수 있는 수의 상한을 정합니다.
다른 이름: max output tokens, max_tokens, completion tokens
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
언어 모델 호출에는 토큰 수가 두 가지 있습니다. 입력 토큰은 보내는 모든 것, 즉 시스템 프롬프트, 대화 기록, 문서, 도구 정의를 포함합니다. 출력 토큰은 모델이 돌려 쓰는 내용입니다. API 응답은 보통 둘 다 보고하며, 제공업체는 가격을 따로 매깁니다. 토큰 가격과 사이트의 AI 모델 가격 조사를 참고하십시오.
max_tokens
대부분의 API는 흔히 max_tokens라고 부르는 파라미터로 출력 길이의 상한을 정합니다. Anthropic의 Messages API는 이를 멈추기 전에 생성할 최대 토큰 수라고 설명하며, 모델이 더 일찍 멈출 수 있다고 밝힙니다. 응답이 상한에 닿으면 잘리고, 응답에는 멈춘 이유가 표시됩니다. 모델마다 이 값의 자체 상한도 있으며, 이는 컨텍스트 윈도우와 별개입니다.
왜 중요한가
- 비용: 긴 답변은 비용이 더 들며, 많은 가격표에서 출력 토큰이 입력 토큰보다 비쌉니다. - 속도: 출력은 토큰 하나씩 생성되므로 길이가 전체 응답 시간을 좌우합니다. 초당 토큰 수를 참고하십시오. - 잘림: 상한이 너무 낮으면 JSON과 코드가 중간에 끊깁니다.
추론 토큰
추론 모델과 chain-of-thought 프롬프트는 생각 단계를 위한 추가 출력을 만듭니다. 제공업체에 따라 이 토큰은 사용자에게 보이지 않더라도 상한과 청구액에 포함될 수 있습니다.
실용적인 팁
긴 답변이 필요 없을 때는 간결한 답을 요청하고, 가장 긴 유효 응답을 담을 여유를 두고 max_tokens를 설정하고, 코드에서 멈춘 이유를 확인해 잘린 응답이 조용히 쓰이지 않고 재시도되거나 표시되게 하십시오.
관련 용어
- 토큰(LLM)
- 토큰(LLM token)은 언어 모델이 읽고 쓰는 텍스트의 기본 단위로, 보통 단어, 단어의 일부, 문장 부호, 바이트 하나입니다. 가격, 속도, 컨텍스트 한도는 모두 토큰 단위로 계산합니다.
- 토큰 가격(Token pricing)
- 토큰 가격(token pricing)은 대부분의 AI 모델 API가 요금을 매기는 방식입니다. 보내는 입력 토큰 100만 개당 정해진 가격과, 모델이 생성하는 출력 토큰 100만 개당 별도의, 보통 더 높은 가격이 있으며, 캐시된 입력과 배치 작업에는 할인이 적용됩니다.
- 컨텍스트 윈도
- 컨텍스트 윈도(context window)는 언어 모델이 한 번에 고려할 수 있는 텍스트의 최대량으로, 토큰 단위로 셉니다. 시스템 프롬프트, 대화, 문서, 도구 결과, 모델이 쓰는 응답이 모두 포함됩니다.
- 초당 토큰 수(Tokens per second)
- 초당 토큰 수(tokens per second, tok/s)는 언어 모델이 출력을 얼마나 빨리 만드는지 측정합니다. 응답 하나가 스트리밍되는 속도인 사용자별 기준, 또는 모든 동시 요청의 출력 합계인 시스템 기준으로 표시합니다.
- 추론 모델(Reasoning model)
- 추론 모델(reasoning model)은 최종 답을 내기 전에 중간 생각 토큰의 흐름으로 문제를 풀어 나가도록 학습된 언어 모델로, 수학, 코딩, 여러 단계로 된 작업에 도움이 되는 경향이 있습니다.