Prompts und Kontext
Wie du ein Modell anweist und steuerst, was es sieht und zurückgibt.
- Chain-of-Thought
- Chain-of-Thought (CoT, Gedankenkette) ist eine Prompting-Methode, bei der ein Sprachmodell vor seiner endgültigen Antwort Zwischenschritte seines Denkens ausschreibt, was Ergebnisse bei Mathematik, Logik und anderen mehrstufigen Aufgaben meist verbessert.
- Context Engineering
- Context Engineering (Kontextgestaltung) ist die Praxis, alles auszuwählen und zu pflegen, was während einer Aufgabe in das Kontextfenster eines Sprachmodells gelangt: Anweisungen, abgerufene Dokumente, Tool-Definitionen, Tool-Ergebnisse und Gesprächsverlauf.
- Few-Shot Prompting
- Few-Shot Prompting (Prompting mit wenigen Beispielen) bedeutet, einem Sprachmodell im Prompt eine Handvoll durchgearbeiteter Beispiele einer Aufgabe zu geben, damit es das Muster ohne erneutes Training auf eine neue Eingabe übertragen kann.
- Grounding
- Grounding (Verankerung) bedeutet, die Antwort eines Sprachmodells an konkrete, überprüfbare Quellen wie Suchergebnisse, Dokumente oder eine Datenbank zu binden, sodass seine Aussagen auf bereitgestellten Belegen beruhen und nicht nur auf Trainingsdaten.
- Output-Tokens
- Output-Tokens sind die Tokens, die ein Sprachmodell in seiner Antwort erzeugt. Sie werden getrennt von Input-Tokens gezählt und abgerechnet, und eine Einstellung namens max_tokens begrenzt, wie viele eine Antwort enthalten darf.
- Prompt Engineering
- Prompt Engineering ist die Praxis, die Anweisungen und Beispiele für ein Sprachmodell so zu schreiben, zu strukturieren und zu testen, dass es die Ausgabe liefert, die eine Anwendung braucht, ohne die Gewichte des Modells zu ändern.
- Structured Output
- Structured Output (strukturierte Ausgabe) ist eine API-Funktion, die die Antwort eines Sprachmodells einem von dir festgelegten Format folgen lässt, meist einem JSON Schema, damit Code sie verlässlich parsen kann, statt freien Text auszuwerten.
- System-Prompt
- Ein System-Prompt ist der Block von Anweisungen, den eine Anwendung vor den Nachrichten des Nutzers an ein Sprachmodell schickt. Er legt Rolle, Regeln, Ton und Ausgabeformat des Modells für die ganze Unterhaltung fest.
- Temperature (Sampling)
- Temperature (Temperatur) ist eine Sampling-Einstellung, die steuert, wie zufällig ein Sprachmodell seine Wörter wählt. Niedrige Werte lassen es die wahrscheinlichsten Tokens bevorzugen; höhere Werte verteilen die Wahl auf weniger wahrscheinliche.
- Top-p-Sampling
- Top-p-Sampling oder Nucleus Sampling wählt jedes nächste Token nur aus der kleinsten Menge von Kandidaten, deren gemeinsame Wahrscheinlichkeit einen Schwellenwert p erreicht, und schneidet den langen Rand unwahrscheinlicher Tokens ab.
- Zero-Shot
- Zero-Shot bedeutet, ein Modell eine Aufgabe allein anhand einer Anweisung erledigen zu lassen, ohne ausgearbeitete Beispiele im Prompt und ohne aufgabenspezifisches Training. Das Modell verlässt sich nur auf das, was es schon gelernt hat.