본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

출력 토큰(Output tokens)

출력 토큰(output tokens)은 언어 모델이 응답에서 생성하는 토큰입니다. 입력 토큰과 따로 계산되고 청구되며, max_tokens 설정으로 응답 하나에 담길 수 있는 수의 상한을 정합니다.

다른 이름: max output tokens, max_tokens, completion tokens

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

언어 모델 호출에는 토큰 수가 두 가지 있습니다. 입력 토큰은 보내는 모든 것, 즉 시스템 프롬프트, 대화 기록, 문서, 도구 정의를 포함합니다. 출력 토큰은 모델이 돌려 쓰는 내용입니다. API 응답은 보통 둘 다 보고하며, 제공업체는 가격을 따로 매깁니다. 토큰 가격과 사이트의 AI 모델 가격 조사를 참고하십시오.

max_tokens

대부분의 API는 흔히 max_tokens라고 부르는 파라미터로 출력 길이의 상한을 정합니다. Anthropic의 Messages API는 이를 멈추기 전에 생성할 최대 토큰 수라고 설명하며, 모델이 더 일찍 멈출 수 있다고 밝힙니다. 응답이 상한에 닿으면 잘리고, 응답에는 멈춘 이유가 표시됩니다. 모델마다 이 값의 자체 상한도 있으며, 이는 컨텍스트 윈도우와 별개입니다.

왜 중요한가

- 비용: 긴 답변은 비용이 더 들며, 많은 가격표에서 출력 토큰이 입력 토큰보다 비쌉니다. - 속도: 출력은 토큰 하나씩 생성되므로 길이가 전체 응답 시간을 좌우합니다. 초당 토큰 수를 참고하십시오. - 잘림: 상한이 너무 낮으면 JSON과 코드가 중간에 끊깁니다.

추론 토큰

추론 모델과 chain-of-thought 프롬프트는 생각 단계를 위한 추가 출력을 만듭니다. 제공업체에 따라 이 토큰은 사용자에게 보이지 않더라도 상한과 청구액에 포함될 수 있습니다.

실용적인 팁

긴 답변이 필요 없을 때는 간결한 답을 요청하고, 가장 긴 유효 응답을 담을 여유를 두고 max_tokens를 설정하고, 코드에서 멈춘 이유를 확인해 잘린 응답이 조용히 쓰이지 않고 재시도되거나 표시되게 하십시오.

관련 용어

토큰(LLM)
토큰(LLM token)은 언어 모델이 읽고 쓰는 텍스트의 기본 단위로, 보통 단어, 단어의 일부, 문장 부호, 바이트 하나입니다. 가격, 속도, 컨텍스트 한도는 모두 토큰 단위로 계산합니다.
토큰 가격(Token pricing)
토큰 가격(token pricing)은 대부분의 AI 모델 API가 요금을 매기는 방식입니다. 보내는 입력 토큰 100만 개당 정해진 가격과, 모델이 생성하는 출력 토큰 100만 개당 별도의, 보통 더 높은 가격이 있으며, 캐시된 입력과 배치 작업에는 할인이 적용됩니다.
컨텍스트 윈도
컨텍스트 윈도(context window)는 언어 모델이 한 번에 고려할 수 있는 텍스트의 최대량으로, 토큰 단위로 셉니다. 시스템 프롬프트, 대화, 문서, 도구 결과, 모델이 쓰는 응답이 모두 포함됩니다.
초당 토큰 수(Tokens per second)
초당 토큰 수(tokens per second, tok/s)는 언어 모델이 출력을 얼마나 빨리 만드는지 측정합니다. 응답 하나가 스트리밍되는 속도인 사용자별 기준, 또는 모든 동시 요청의 출력 합계인 시스템 기준으로 표시합니다.
추론 모델(Reasoning model)
추론 모델(reasoning model)은 최종 답을 내기 전에 중간 생각 토큰의 흐름으로 문제를 풀어 나가도록 학습된 언어 모델로, 수학, 코딩, 여러 단계로 된 작업에 도움이 되는 경향이 있습니다.

출처