Chain-of-Thought
Chain-of-Thought (CoT, Gedankenkette) ist eine Prompting-Methode, bei der ein Sprachmodell vor seiner endgültigen Antwort Zwischenschritte seines Denkens ausschreibt, was Ergebnisse bei Mathematik, Logik und anderen mehrstufigen Aufgaben meist verbessert.
Auch: CoT, chain-of-thought prompting, Zero-shot-CoT
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Statt ein Modell direkt nach einer Antwort zu fragen, bringt ein Chain-of-Thought-Prompt es dazu, das Problem Schritt für Schritt durchzuarbeiten. Jeder Schritt wird zu Text, auf dem das Modell aufbauen kann, ähnlich wie ein Mensch, der eine Rechnung ausschreibt.
Woher es kommt
Das Paper von Wei und Kollegen von 2022 zeigte, dass große Modelle bei Arithmetik, Alltagswissen und symbolischem Denken besser abschnitten, wenn man ihnen einige Beispiele mit ausgearbeitetem Lösungsweg gab, eine Form von Few-Shot Prompting. Ein späteres Paper von Kojima und Kollegen fand heraus, dass schon der Zusatz „Let's think step by step“ ohne Beispiele eine ähnliche Wirkung haben kann, ein Ansatz, den sie Zero-shot-CoT nannten (siehe Zero-Shot).
Beispiel
Auf die Frage „Ein Laden verkauft Stifte zu 3 Stück für 2 Dollar. Was kosten 12 Stifte?“ schreibt ein Modell mit Chain-of-Thought-Prompt vielleicht: 12 Stifte sind 4 Gruppen zu 3, jede Gruppe kostet 2 Dollar, also beträgt die Summe 8 Dollar. Wer die Schritte sieht, erkennt auch Fehler leichter.
Der Bezug zu Reasoning-Modellen
Reasoning-Modelle sind darauf trainiert, vor der Antwort lange Denkschritte zu erzeugen, du musst im Prompt also nicht mehr darum bitten. Das ist eine Form von Test-Time Compute: mehr Tokens beim Antworten aufwenden, um bessere Ergebnisse zu erhalten.
Grenzen
Denkschritte fügen Output-Tokens hinzu, was Kosten und Latenz erhöht. Die geschriebenen Schritte sind kein garantiertes Protokoll dessen, wie das Modell zu seiner Antwort kam, und eine selbstbewusste Kette kann trotzdem in einem falschen Ergebnis enden. Bei einfachen Abfragen oder kurzen Klassifizierungen bringt es oft Kosten ohne viel Nutzen.
Verwandte Begriffe
- Reasoning-Modell
- Ein Reasoning-Modell (Denkmodell) ist ein Sprachmodell, das darauf trainiert ist, ein Problem in einem Strom von Zwischen-Denk-Tokens durchzuarbeiten, bevor es seine endgültige Antwort gibt. Das hilft meist bei Mathematik, Coding und mehrstufigen Aufgaben.
- Prompt Engineering
- Prompt Engineering ist die Praxis, die Anweisungen und Beispiele für ein Sprachmodell so zu schreiben, zu strukturieren und zu testen, dass es die Ausgabe liefert, die eine Anwendung braucht, ohne die Gewichte des Modells zu ändern.
- Few-Shot Prompting
- Few-Shot Prompting (Prompting mit wenigen Beispielen) bedeutet, einem Sprachmodell im Prompt eine Handvoll durchgearbeiteter Beispiele einer Aufgabe zu geben, damit es das Muster ohne erneutes Training auf eine neue Eingabe übertragen kann.
- Zero-Shot
- Zero-Shot bedeutet, ein Modell eine Aufgabe allein anhand einer Anweisung erledigen zu lassen, ohne ausgearbeitete Beispiele im Prompt und ohne aufgabenspezifisches Training. Das Modell verlässt sich nur auf das, was es schon gelernt hat.
- Test-Time Compute
- Test-Time Compute (Rechenaufwand zur Antwortzeit) ist die Menge an Berechnung, die ein Modell beim Beantworten einer Anfrage aufwendet, statt im Training. Wenn ein Modell länger nachdenken oder mehrere Antworten ausprobieren darf, kann das die Ergebnisse bei schwierigen Problemen verbessern.