Jailbreak (LLM)
Ein Jailbreak ist ein Prompt oder eine Technik, die ein Sprachmodell dazu bringt, Ausgaben zu erzeugen, die es laut Sicherheitstraining ablehnen soll, etwa schädliche Anleitungen, durch Rollenspiel, Verschleierung, ungewöhnliche Kodierungen oder langen gegnerischen Text.
Auch: jailbreaking, LLM jailbreak
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Das Wort kommt vom Entfernen von Beschränkungen bei Smartphones und Spielkonsolen. Bei LLMs wird nichts installiert oder verändert; der Angreifer schreibt nur Text. Häufige Muster sind, das Modell eine Figur ohne Regeln spielen zu lassen, eine verbotene Anfrage in harmlos wirkende Teile zu zerlegen, sie in einer anderen Sprache oder Kodierung zu schreiben oder maschinell erzeugte Zeichenketten anzuhängen, die das Modell über seine Ablehnung hinausdrängen.
Warum es funktioniert
Wei, Haghtalab und Steinhardt untersuchten, warum Sicherheitstraining scheitert, und schlugen zwei Ursachen vor. Konkurrierende Ziele: Das Modell ist darauf trainiert, sowohl hilfreich zu sein als auch abzulehnen, und ein geschickter Prompt spielt diese Ziele gegeneinander aus. Unpassende Generalisierung: Das Sicherheitstraining deckt nicht jeden Bereich ab, in dem das Modell Fähigkeiten hat, eine ungewöhnlich formulierte Anfrage schlüpft also durch.
Jailbreak und Prompt Injection
Viele verwechseln die beiden. Ein Jailbreak zielt auf die eigenen Sicherheitsregeln des Modells und wird meist vom Nutzer im Gespräch mit dem Modell ausgeführt. Prompt Injection zielt auf die Anweisungen der Anwendung und wird oft von Dritten in Inhalten platziert, die das Modell liest. Ein einzelner Angriff kann beides sein: Eine präparierte Webseite kann einen Jailbreak enthalten.
Was Entwickler dagegen tun
Modellanbieter schließen bekannte Jailbreaks, aber es tauchen ständig neue auf, daher ergänzen Anwendungen eigene Guardrails wie Klassifizierer für Eingaben und Ausgaben. Teams suchen vor der Veröffentlichung per Red Teaming nach Schwachstellen, mit Tools wie PyRIT oder promptfoo. Ein Jailbreak ist ein Symptom unvollkommenen Alignments: Das Verhalten des Modells entspricht nicht ganz dem, was seine Entwickler beabsichtigt haben.
Verwandte Begriffe
- Prompt Injection
- Prompt Injection ist ein Angriff, bei dem Text, der einem Sprachmodell zugeführt wird, von einem Nutzer eingetippt oder in einer Webseite, Datei oder einem Tool-Ergebnis versteckt, das Verhalten des Modells auf eine Weise ändert, die sein Entwickler nicht vorgesehen hat.
- KI-Red-Teaming
- KI-Red-Teaming ist die Praxis, ein Modell oder eine KI-Anwendung vor und nach der Veröffentlichung gezielt anzugreifen, mit menschlichen Testern oder automatisierten Tools, um schädliche Ausgaben, Jailbreaks, Injections und andere Fehler zu finden, damit sie behoben werden können.
- Guardrails (KI)
- Guardrails (Leitplanken) sind Laufzeitprüfungen rund um ein Sprachmodell, die Eingaben und Ausgaben untersuchen und sie blockieren, umschreiben oder umleiten, damit eine Anwendung beim Thema bleibt, schädliche Inhalte vermeidet und Regeln einhält, die das Modell allein nicht verlässlich befolgen würde.
- KI-Alignment
- KI-Alignment (AI Alignment) ist die Arbeit daran, dass das Verhalten eines KI-Systems dem entspricht, was seine Nutzer und Entwickler tatsächlich beabsichtigen, sodass es hilfreich und ehrlich ist und Schaden vermeidet, statt nur wahrscheinlichen Text vorherzusagen oder eine enge Kennzahl zu optimieren.
- Abliteration
- Abliteration (Entfernen der Ablehnungsrichtung) ist eine Technik, die ein Sprachmodell davon abhält, Anfragen abzulehnen: Sie findet die eine interne Richtung, die die Ablehnung trägt, und bearbeitet die Gewichte so, dass das Modell nicht mehr in sie schreiben kann, ganz ohne erneutes Training.