Output-Tokens
Output-Tokens sind die Tokens, die ein Sprachmodell in seiner Antwort erzeugt. Sie werden getrennt von Input-Tokens gezählt und abgerechnet, und eine Einstellung namens max_tokens begrenzt, wie viele eine Antwort enthalten darf.
Auch: max output tokens, max_tokens, completion tokens
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Jeder Aufruf eines Sprachmodells hat zwei Token-Zahlen. Input-Tokens umfassen alles, was du schickst: den System-Prompt, den Verlauf, Dokumente und Tool-Definitionen. Output-Tokens sind das, was das Modell zurückschreibt. API-Antworten melden meist beide, und Anbieter bepreisen sie getrennt; siehe Token-Preise und die Recherche der Site zu KI-Modellpreisen.
max_tokens
Die meisten APIs nehmen einen Parameter an, oft max_tokens genannt, der eine Obergrenze für die Länge der Ausgabe setzt. Die Messages API von Anthropic beschreibt ihn als die maximale Zahl an Tokens, die vor dem Anhalten erzeugt werden, und merkt an, dass ein Modell früher aufhören kann. Erreicht eine Antwort die Grenze, wird sie abgeschnitten, und die Antwort meldet, warum sie angehalten hat. Jedes Modell hat außerdem eine eigene Obergrenze für diesen Wert, getrennt von seinem Kontextfenster.
Warum es wichtig ist
- Kosten: Lange Antworten kosten mehr, und auf vielen Preislisten kosten Output-Tokens mehr als Input-Tokens. - Geschwindigkeit: Die Ausgabe entsteht Token für Token, also bestimmt die Länge die gesamte Antwortzeit. Siehe Tokens pro Sekunde. - Abschneiden: Eine zu niedrige Grenze bricht JSON und Code mittendrin ab.
Reasoning-Tokens
Reasoning-Modelle und Chain-of-Thought-Prompts erzeugen zusätzliche Ausgabe für die Denkschritte. Je nach Anbieter zählen diese Tokens zur Grenze und zur Rechnung, auch wenn sie dem Nutzer nicht gezeigt werden.
Praktische Tipps
Bitte um knappe Antworten, wenn du keine langen brauchst, setze max_tokens mit Spielraum für die längste gültige Antwort und prüfe im Code den Stop-Grund, damit abgeschnittene Antworten wiederholt oder markiert werden, statt stillschweigend verwendet zu werden.
Verwandte Begriffe
- Token (LLM)
- Ein Token (LLM) ist die Grundeinheit von Text, die ein Sprachmodell liest und schreibt, oft ein Wort, ein Wortteil, ein Satzzeichen oder ein Byte. Preise, Geschwindigkeit und Kontextgrenzen werden alle in Tokens gezählt.
- Token-Preise
- Token-Preise (Token Pricing) sind die Art, wie die meisten APIs für KI-Modelle abrechnen: ein fester Preis pro Million Input-Tokens, die du schickst, und ein separater, meist höherer Preis pro Million Output-Tokens, die das Modell erzeugt, mit Rabatten für gecachten Input und Batch-Jobs.
- Kontextfenster
- Ein Kontextfenster (Context Window) ist die maximale Textmenge, gezählt in Tokens, die ein Sprachmodell auf einmal berücksichtigen kann, einschließlich System-Prompt, Unterhaltung, Dokumenten, Tool-Ergebnissen und der Antwort, die es schreibt.
- Tokens pro Sekunde
- Tokens pro Sekunde (tok/s) misst, wie schnell ein Sprachmodell Ausgabe erzeugt. Angegeben wird der Wert entweder pro Nutzer, also die Geschwindigkeit, mit der eine Antwort gestreamt wird, oder pro System, also die gesamte Ausgabe über alle gleichzeitigen Anfragen.
- Reasoning-Modell
- Ein Reasoning-Modell (Denkmodell) ist ein Sprachmodell, das darauf trainiert ist, ein Problem in einem Strom von Zwischen-Denk-Tokens durchzuarbeiten, bevor es seine endgültige Antwort gibt. Das hilft meist bei Mathematik, Coding und mehrstufigen Aufgaben.