Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Datenexfiltration (KI-Agenten)

Datenexfiltration (Data Exfiltration) bedeutet bei KI-Agenten, dass ein Angreifer einen Agenten dazu bringt, private Daten zu lesen, auf die er Zugriff hat, und sie nach außen zu senden, per Webanfrage, E-Mail, Bildlink oder über einen anderen Kanal, den der Angreifer kontrolliert.

Auch: exfiltration, lethal trifecta

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Exfiltration ist ein alter Sicherheitsbegriff dafür, Daten ohne Erlaubnis aus einem System zu schaffen. Agenten machen das leichter, weil sie private Daten lesen und zugleich mit der Außenwelt kommunizieren können und weil sie Anweisungen folgen, die in dem Text stehen, den sie verarbeiten.

Das tödliche Trio

Simon Willison beschreibt das Risiko als drei Eigenschaften in einem Agenten: Zugriff auf private Daten, Kontakt mit nicht vertrauenswürdigen Inhalten und eine Möglichkeit, nach außen zu kommunizieren (die Lethal Trifecta). Sind alle drei vorhanden, kann eine Prompt Injection, versteckt in einer Webseite, einem Dokument oder einem Issue, den Agenten anweisen, Geheimnisse zu sammeln und an den Angreifer zu schicken. Fällt eine der drei weg, schließt sich dieser Angriffsweg.

Wie Daten abfließen

Der Kanal ist oft etwas, das harmlos aussieht: eine URL, in deren Query-String die Daten verpackt sind, ein Markdown-Bild, das der Chat-Client automatisch lädt, ein Commit in ein öffentliches Repository, eine ausgehende E-Mail oder ein Argument, das an ein Tool übergeben wird. Willison merkt an, dass Anbieter gemeldete Fälle meist behoben haben, indem sie den konkreten Kanal schlossen, über den die Daten hinausgingen.

Beispiel

Ein Coding-Agent mit Zugriff auf ein privates Repo soll einen Fehler aus einem öffentlichen Issue beheben. Der Issue-Text enthält versteckte Anweisungen, die Datei `.env` zu lesen und ihren Inhalt in einen Link einzubauen. Kann der Agent Netzwerkanfragen stellen, verlassen die Schlüssel mit dieser Anfrage das System.

Abwehr

Begrenze mit engen Agenten-Berechtigungen, was der Agent erreichen kann. Lass ihn in einer Agenten-Sandbox laufen, in der ausgehender Netzwerkzugriff gesperrt oder auf eine Erlaubnisliste beschränkt ist. Rendere keine entfernten Bilder aus Modellausgaben, und verlange eine menschliche Freigabe für Aktionen, die Daten nach außen senden. Tool Poisoning ist ein häufiger Weg, auf dem die eingeschleusten Anweisungen ankommen.

Verwandte Begriffe

Prompt Injection
Prompt Injection ist ein Angriff, bei dem Text, der einem Sprachmodell zugeführt wird, von einem Nutzer eingetippt oder in einer Webseite, Datei oder einem Tool-Ergebnis versteckt, das Verhalten des Modells auf eine Weise ändert, die sein Entwickler nicht vorgesehen hat.
Agenten-Sandbox
Eine Agenten-Sandbox ist eine isolierte Umgebung, etwa ein Container, eine virtuelle Maschine oder eine Beschränkung des Betriebssystems, in der ein KI-Agent Code und Befehle ausführt, damit er keine Dateien, Netzwerke oder Daten außerhalb festgelegter Grenzen erreicht.
Agenten-Berechtigungen
Agenten-Berechtigungen sind die Regeln, die festlegen, welche Tools, Dateien, Befehle, Netzwerke und Konten ein KI-Agent nutzen darf und welche Aktionen vorher die Freigabe eines Menschen brauchen, damit ein fehlerhafter oder manipulierter Agent nur begrenzten Schaden anrichten kann.
Tool Poisoning
Tool Poisoning (Vergiftung von Tools) ist ein Angriff, bei dem ein bösartiges Tool, oft ein MCP-Server, Anweisungen in seiner Tool-Beschreibung oder seinen Metadaten versteckt; das KI-Modell liest sie als Anleitung und gibt womöglich Daten preis oder missbraucht andere Tools, ohne dass der Nutzer es merkt.
Human-in-the-Loop
Human-in-the-Loop (HITL, Mensch in der Schleife) ist ein Design, bei dem ein KI-System an gewählten Stellen pausiert, damit eine Person den nächsten Schritt freigibt, korrigiert oder ablehnt, sodass riskante oder unsichere Aktionen nicht automatisch ausgeführt werden.

Quellen