出力トークン
出力トークン(output tokens)とは、言語モデルが応答で生成するトークンです。入力トークンとは別に数えられ、別に請求されます。max_tokensの設定で、1つの応答に含められる数の上限を決めます。
別名: max output tokens, max_tokens, completion tokens
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
言語モデルへの呼び出しには、毎回2つのトークン数があります。入力トークンは送るものすべてで、システムプロンプト、履歴、文書、ツールの定義を含みます。出力トークンはモデルが書き返すものです。APIのレスポンスは通常両方を報告し、プロバイダーはそれぞれ別の料金を設定しています。トークン料金と当サイトのAIモデル料金の調査をご覧ください。
max_tokens
ほとんどのAPIは、出力の長さの上限を設定するパラメータを受け付け、多くの場合max_tokensと呼ばれます。AnthropicのMessages APIはこれを、停止する前に生成するトークンの最大数と説明し、モデルがそれより早く停止することもあると注記しています。応答が上限に達すると途中で切れ、レスポンスには停止した理由が示されます。各モデルには、コンテキストウィンドウとは別に、この値の独自の上限もあります。
なぜ重要か
- コスト:長い回答ほど費用がかかり、多くの料金表では出力トークンの方が入力トークンより高額です。 - 速度:出力は1トークンずつ生成されるため、長さが応答時間全体を左右します。1秒あたりのトークン数をご覧ください。 - 切り捨て:上限が低すぎると、JSONやコードが途中で壊れます。
推論トークン
推論モデルやchain-of-thoughtのプロンプトは、思考のステップのために追加の出力を生成します。プロバイダーによっては、ユーザーに表示されなくても、そのトークンが上限と請求額に数えられます。
実践のヒント
長い回答が不要なときは簡潔な回答を求め、max_tokensは最も長い正当な応答にも余裕がある値に設定し、コードで停止理由を確認してください。そうすれば、切れた応答を黙って使うのではなく、再試行したり警告を出したりできます。
関連用語
- トークン(LLM)
- トークン(LLM)とは、言語モデルが読み書きするテキストの基本単位で、多くの場合、単語、単語の一部、句読点、またはバイトです。料金、速度、コンテキストの上限はすべてトークンで数えます。
- トークン料金
- トークン料金(token pricing)とは、ほとんどのAIモデルのAPIが採用している課金方法です。送る入力トークン100万あたりの定額料金と、モデルが生成する出力トークン100万あたりの、通常はより高い別の料金があり、キャッシュされた入力やバッチジョブには割引があります。
- コンテキストウィンドウ
- コンテキストウィンドウ(context window)とは、言語モデルが一度に考慮できるテキストの最大量で、トークン数で数えます。システムプロンプト、会話、文書、ツールの結果、モデルが書く応答が含まれます。
- 1秒あたりのトークン数
- 1秒あたりのトークン数(tokens per second、tok/s)とは、言語モデルが出力を生成する速さを測る指標です。1つの応答がストリーミングされる速さであるユーザーごとの値か、同時に処理するすべてのリクエストの合計出力であるシステム全体の値で示されます。
- 推論モデル
- 推論モデル(reasoning model)とは、最終的な答えを出す前に、中間的な思考のトークンを連ねて問題に取り 組むよう学習された言語モデルです。数学、コーディング、複数ステップのタスクで役立つ傾向があります。