Prompt Injection
Prompt Injection ist ein Angriff, bei dem Text, der einem Sprachmodell zugeführt wird, von einem Nutzer eingetippt oder in einer Webseite, Datei oder einem Tool-Ergebnis versteckt, das Verhalten des Modells auf eine Weise ändert, die sein Entwickler nicht vorgesehen hat.
Auch: indirect prompt injection, direct prompt injection
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
LLMs lesen Anweisungen und Daten über denselben Kanal: Text. Ein Modell kann den System-Prompt eines Entwicklers nicht verlässlich von einem Satz unterscheiden, den ein Angreifer in einer E-Mail platziert hat, die es zusammenfassen soll. OWASP führt Prompt Injection an erster Stelle seiner Top 10 für LLM-Anwendungen.
Direkt und indirekt
Bei einer direkten Injection tippt der Nutzer den Angriff selbst ein und fordert den Bot etwa auf, seine früheren Anweisungen zu ignorieren. Bei einer indirekten Injection kommt der Angriff in Inhalten an, die das Modell verarbeitet: einer Webseite, einem PDF, einem Code-Kommentar, einer Kalendereinladung oder der Beschreibung eines MCP-Tools. Der Nutzer sieht ihn womöglich nie. Greshake et al. zeigten, dass LLM-integrierte Anwendungen die Grenze zwischen Daten und Anweisungen verwischen, sodass ein Angreifer das Modell ganz ohne direkten Zugriff erreichen kann.
Warum es für Agenten wichtig ist
Ein Chatbot, der nur Text schreibt, kann bloßgestellt werden. Ein Agent, der Dateien lesen, APIs aufrufen und Nachrichten senden kann, lässt sich zum Handeln steuern. Die schlimmsten Fälle verketten Injection mit Datenexfiltration: Der platzierte Text weist den Agenten an, private Daten zu sammeln und irgendwohin zu senden. Tool Poisoning ist eine Form der indirekten Injection, die über Tool-Metadaten eingeschleust wird.
Unterschied zum Jailbreak
Ein Jailbreak versucht, das Modell dazu zu bringen, sein eigenes Sicherheitstraining zu brechen. Prompt Injection versucht, die Anweisungen der Anwendung zu überschreiben. Die Techniken überschneiden sich, und derselbe Text kann beides tun.
Abwehr
Eine vollständige Lösung gibt es heute nicht. Gängige Schichten sind Guardrails für Ein- und Ausgaben, eine klare Trennung nicht vertrauenswürdiger Inhalte, enge Agenten-Berechtigungen, eine Agenten-Sandbox und menschliche Freigabe vor sensiblen Aktionen. Die vollständige Liste der Gegenmaßnahmen steht im OWASP-Eintrag.
Verwandte Begriffe
- Jailbreak (LLM)
- Ein Jailbreak ist ein Prompt oder eine Technik, die ein Sprachmodell dazu bringt, Ausgaben zu erzeugen, die es laut Sicherheitstraining ablehnen soll, etwa schädliche Anleitungen, durch Rollenspiel, Verschleierung, ungewöhnliche Kodierungen oder langen gegnerischen Text.
- Datenexfiltration (KI-Agenten)
- Datenexfiltration (Data Exfiltration) bedeutet bei KI-Agenten, dass ein Angreifer einen Agenten dazu bringt, private Daten zu lesen, auf die er Zugriff hat, und sie nach außen zu senden, per Webanfrage, E-Mail, Bildlink oder über einen anderen Kanal, den der Angreifer kontrolliert.
- Agenten-Sandbox
- Eine Agenten-Sandbox ist eine isolierte Umgebung, etwa ein Container, eine virtuelle Maschine oder eine Beschränkung des Betriebssystems, in der ein KI-Agent Code und Befehle ausführt, damit er keine Dateien, Netzwerke oder Daten außerhalb festgelegter Grenzen erreicht.
- Tool Poisoning
- Tool Poisoning (Vergiftung von Tools) ist ein Angriff, bei dem ein bösartiges Tool, oft ein MCP-Server, Anweisungen in seiner Tool-Beschreibung oder seinen Metadaten versteckt; das KI-Modell liest sie als Anleitung und gibt womöglich Daten preis oder missbraucht andere Tools, ohne dass der Nutzer es merkt.
- Guardrails (KI)
- Guardrails (Leitplanken) sind Laufzeitprüfungen rund um ein Sprachmodell, die Eingaben und Ausgaben untersuchen und sie blockieren, umschreiben oder umleiten, damit eine Anwendung beim Thema bleibt, schädliche Inhalte vermeidet und Regeln einhält, die das Modell allein nicht verlässlich befolgen würde.