Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Prompt Injection

Prompt Injection ist ein Angriff, bei dem Text, der einem Sprachmodell zugeführt wird, von einem Nutzer eingetippt oder in einer Webseite, Datei oder einem Tool-Ergebnis versteckt, das Verhalten des Modells auf eine Weise ändert, die sein Entwickler nicht vorgesehen hat.

Auch: indirect prompt injection, direct prompt injection

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

LLMs lesen Anweisungen und Daten über denselben Kanal: Text. Ein Modell kann den System-Prompt eines Entwicklers nicht verlässlich von einem Satz unterscheiden, den ein Angreifer in einer E-Mail platziert hat, die es zusammenfassen soll. OWASP führt Prompt Injection an erster Stelle seiner Top 10 für LLM-Anwendungen.

Direkt und indirekt

Bei einer direkten Injection tippt der Nutzer den Angriff selbst ein und fordert den Bot etwa auf, seine früheren Anweisungen zu ignorieren. Bei einer indirekten Injection kommt der Angriff in Inhalten an, die das Modell verarbeitet: einer Webseite, einem PDF, einem Code-Kommentar, einer Kalendereinladung oder der Beschreibung eines MCP-Tools. Der Nutzer sieht ihn womöglich nie. Greshake et al. zeigten, dass LLM-integrierte Anwendungen die Grenze zwischen Daten und Anweisungen verwischen, sodass ein Angreifer das Modell ganz ohne direkten Zugriff erreichen kann.

Warum es für Agenten wichtig ist

Ein Chatbot, der nur Text schreibt, kann bloßgestellt werden. Ein Agent, der Dateien lesen, APIs aufrufen und Nachrichten senden kann, lässt sich zum Handeln steuern. Die schlimmsten Fälle verketten Injection mit Datenexfiltration: Der platzierte Text weist den Agenten an, private Daten zu sammeln und irgendwohin zu senden. Tool Poisoning ist eine Form der indirekten Injection, die über Tool-Metadaten eingeschleust wird.

Unterschied zum Jailbreak

Ein Jailbreak versucht, das Modell dazu zu bringen, sein eigenes Sicherheitstraining zu brechen. Prompt Injection versucht, die Anweisungen der Anwendung zu überschreiben. Die Techniken überschneiden sich, und derselbe Text kann beides tun.

Abwehr

Eine vollständige Lösung gibt es heute nicht. Gängige Schichten sind Guardrails für Ein- und Ausgaben, eine klare Trennung nicht vertrauenswürdiger Inhalte, enge Agenten-Berechtigungen, eine Agenten-Sandbox und menschliche Freigabe vor sensiblen Aktionen. Die vollständige Liste der Gegenmaßnahmen steht im OWASP-Eintrag.

Verwandte Begriffe

Jailbreak (LLM)
Ein Jailbreak ist ein Prompt oder eine Technik, die ein Sprachmodell dazu bringt, Ausgaben zu erzeugen, die es laut Sicherheitstraining ablehnen soll, etwa schädliche Anleitungen, durch Rollenspiel, Verschleierung, ungewöhnliche Kodierungen oder langen gegnerischen Text.
Datenexfiltration (KI-Agenten)
Datenexfiltration (Data Exfiltration) bedeutet bei KI-Agenten, dass ein Angreifer einen Agenten dazu bringt, private Daten zu lesen, auf die er Zugriff hat, und sie nach außen zu senden, per Webanfrage, E-Mail, Bildlink oder über einen anderen Kanal, den der Angreifer kontrolliert.
Agenten-Sandbox
Eine Agenten-Sandbox ist eine isolierte Umgebung, etwa ein Container, eine virtuelle Maschine oder eine Beschränkung des Betriebssystems, in der ein KI-Agent Code und Befehle ausführt, damit er keine Dateien, Netzwerke oder Daten außerhalb festgelegter Grenzen erreicht.
Tool Poisoning
Tool Poisoning (Vergiftung von Tools) ist ein Angriff, bei dem ein bösartiges Tool, oft ein MCP-Server, Anweisungen in seiner Tool-Beschreibung oder seinen Metadaten versteckt; das KI-Modell liest sie als Anleitung und gibt womöglich Daten preis oder missbraucht andere Tools, ohne dass der Nutzer es merkt.
Guardrails (KI)
Guardrails (Leitplanken) sind Laufzeitprüfungen rund um ein Sprachmodell, die Eingaben und Ausgaben untersuchen und sie blockieren, umschreiben oder umleiten, damit eine Anwendung beim Thema bleibt, schädliche Inhalte vermeidet und Regeln einhält, die das Modell allein nicht verlässlich befolgen würde.

Quellen