Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Jailbreak (LLM)

Ein Jailbreak ist ein Prompt oder eine Technik, die ein Sprachmodell dazu bringt, Ausgaben zu erzeugen, die es laut Sicherheitstraining ablehnen soll, etwa schädliche Anleitungen, durch Rollenspiel, Verschleierung, ungewöhnliche Kodierungen oder langen gegnerischen Text.

Auch: jailbreaking, LLM jailbreak

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Das Wort kommt vom Entfernen von Beschränkungen bei Smartphones und Spielkonsolen. Bei LLMs wird nichts installiert oder verändert; der Angreifer schreibt nur Text. Häufige Muster sind, das Modell eine Figur ohne Regeln spielen zu lassen, eine verbotene Anfrage in harmlos wirkende Teile zu zerlegen, sie in einer anderen Sprache oder Kodierung zu schreiben oder maschinell erzeugte Zeichenketten anzuhängen, die das Modell über seine Ablehnung hinausdrängen.

Warum es funktioniert

Wei, Haghtalab und Steinhardt untersuchten, warum Sicherheitstraining scheitert, und schlugen zwei Ursachen vor. Konkurrierende Ziele: Das Modell ist darauf trainiert, sowohl hilfreich zu sein als auch abzulehnen, und ein geschickter Prompt spielt diese Ziele gegeneinander aus. Unpassende Generalisierung: Das Sicherheitstraining deckt nicht jeden Bereich ab, in dem das Modell Fähigkeiten hat, eine ungewöhnlich formulierte Anfrage schlüpft also durch.

Jailbreak und Prompt Injection

Viele verwechseln die beiden. Ein Jailbreak zielt auf die eigenen Sicherheitsregeln des Modells und wird meist vom Nutzer im Gespräch mit dem Modell ausgeführt. Prompt Injection zielt auf die Anweisungen der Anwendung und wird oft von Dritten in Inhalten platziert, die das Modell liest. Ein einzelner Angriff kann beides sein: Eine präparierte Webseite kann einen Jailbreak enthalten.

Was Entwickler dagegen tun

Modellanbieter schließen bekannte Jailbreaks, aber es tauchen ständig neue auf, daher ergänzen Anwendungen eigene Guardrails wie Klassifizierer für Eingaben und Ausgaben. Teams suchen vor der Veröffentlichung per Red Teaming nach Schwachstellen, mit Tools wie PyRIT oder promptfoo. Ein Jailbreak ist ein Symptom unvollkommenen Alignments: Das Verhalten des Modells entspricht nicht ganz dem, was seine Entwickler beabsichtigt haben.

Verwandte Begriffe

Prompt Injection
Prompt Injection ist ein Angriff, bei dem Text, der einem Sprachmodell zugeführt wird, von einem Nutzer eingetippt oder in einer Webseite, Datei oder einem Tool-Ergebnis versteckt, das Verhalten des Modells auf eine Weise ändert, die sein Entwickler nicht vorgesehen hat.
KI-Red-Teaming
KI-Red-Teaming ist die Praxis, ein Modell oder eine KI-Anwendung vor und nach der Veröffentlichung gezielt anzugreifen, mit menschlichen Testern oder automatisierten Tools, um schädliche Ausgaben, Jailbreaks, Injections und andere Fehler zu finden, damit sie behoben werden können.
Guardrails (KI)
Guardrails (Leitplanken) sind Laufzeitprüfungen rund um ein Sprachmodell, die Eingaben und Ausgaben untersuchen und sie blockieren, umschreiben oder umleiten, damit eine Anwendung beim Thema bleibt, schädliche Inhalte vermeidet und Regeln einhält, die das Modell allein nicht verlässlich befolgen würde.
KI-Alignment
KI-Alignment (AI Alignment) ist die Arbeit daran, dass das Verhalten eines KI-Systems dem entspricht, was seine Nutzer und Entwickler tatsächlich beabsichtigen, sodass es hilfreich und ehrlich ist und Schaden vermeidet, statt nur wahrscheinlichen Text vorherzusagen oder eine enge Kennzahl zu optimieren.
Abliteration
Abliteration (Entfernen der Ablehnungsrichtung) ist eine Technik, die ein Sprachmodell davon abhält, Anfragen abzulehnen: Sie findet die eine interne Richtung, die die Ablehnung trägt, und bearbeitet die Gewichte so, dass das Modell nicht mehr in sie schreiben kann, ganz ohne erneutes Training.

Quellen