Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Tool Poisoning

Tool Poisoning (Vergiftung von Tools) ist ein Angriff, bei dem ein bösartiges Tool, oft ein MCP-Server, Anweisungen in seiner Tool-Beschreibung oder seinen Metadaten versteckt; das KI-Modell liest sie als Anleitung und gibt womöglich Daten preis oder missbraucht andere Tools, ohne dass der Nutzer es merkt.

Auch: MCP rug pull, tool poisoning attack, TPA, tool shadowing

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Wenn sich ein Agent mit einem MCP-Server verbindet, teilt der Server ihm mit, welche Tools es gibt, und beschreibt, was jedes tut. Das Modell liest diese Beschreibungen vollständig, um zu entscheiden, wie es sie aufruft. Der Nutzer sieht meist nur einen kurzen Tool-Namen. Diese Lücke nutzt Tool Poisoning aus.

So funktioniert es

Invariant Labs, die dem Angriff 2025 seinen Namen gaben, beschreiben ihn als bösartige Anweisungen in MCP-Tool-Beschreibungen, die für Nutzer unsichtbar, für KI-Modelle aber sichtbar sind. Ein Tool, das angeblich zwei Zahlen addiert, kann versteckten Text enthalten, der das Modell anweist, lokale Konfigurationsdateien oder Schlüssel zu lesen und sie in einem harmlos wirkenden Argument weiterzugeben. Invariant beschreibt es als spezielle Form indirekter Prompt Injection, und sein übliches Ziel ist Datenexfiltration.

Rug Pulls und Shadowing

Bei einem MCP Rug Pull ändert ein Server, den du bereits genehmigt hast, später seine Tool-Beschreibungen, sodass eine saubere erste Prüfung wenig beweist. Tool Shadowing liegt vor, wenn die Beschreibung eines bösartigen Servers verändert, wie der Agent die Tools eines anderen, vertrauenswürdigen Servers nutzt, zum Beispiel indem sie umleitet, wohin E-Mails geschickt werden. Das schädliche Tool muss dann selbst nie aufgerufen werden.

Abwehr

Invariant empfiehlt, Nutzern die vollständigen Tool-Beschreibungen zu zeigen, Server-Versionen mit einem Hash zu fixieren, damit Änderungen erkannt werden, und strengere Grenzen zwischen Servern zu ziehen. Weitere übliche Schritte: Server nur von Herausgebern installieren, denen du vertraust, wie bei jedem Risiko in der KI-Lieferkette; Agenten-Berechtigungen eng halten; und Server mit Tools wie Snyk Agent Scan scannen. Jedes Review eines MCP-Tools auf dieser Site listet die Berechtigungen, die ein Server verlangt.

Verwandte Begriffe

Prompt Injection
Prompt Injection ist ein Angriff, bei dem Text, der einem Sprachmodell zugeführt wird, von einem Nutzer eingetippt oder in einer Webseite, Datei oder einem Tool-Ergebnis versteckt, das Verhalten des Modells auf eine Weise ändert, die sein Entwickler nicht vorgesehen hat.
MCP-Server
Ein MCP-Server ist ein Programm, das KI-Anwendungen über das Model Context Protocol Tools, Datenressourcen oder Prompt-Vorlagen bereitstellt, sodass jeder MCP-kompatible Client sie ohne eigenen Integrationscode nutzen kann.
KI-Lieferkettenangriff
Ein KI-Lieferkettenangriff (AI Supply-Chain Attack) kompromittiert eine KI-Anwendung über etwas, von dem sie abhängt, etwa ein heruntergeladenes Modell, einen LoRA-Adapter, einen Datensatz, ein Python-Paket, einen MCP-Server oder einen Agent Skill, statt die Anwendung direkt anzugreifen.
Agenten-Berechtigungen
Agenten-Berechtigungen sind die Regeln, die festlegen, welche Tools, Dateien, Befehle, Netzwerke und Konten ein KI-Agent nutzen darf und welche Aktionen vorher die Freigabe eines Menschen brauchen, damit ein fehlerhafter oder manipulierter Agent nur begrenzten Schaden anrichten kann.
Datenexfiltration (KI-Agenten)
Datenexfiltration (Data Exfiltration) bedeutet bei KI-Agenten, dass ein Angreifer einen Agenten dazu bringt, private Daten zu lesen, auf die er Zugriff hat, und sie nach außen zu senden, per Webanfrage, E-Mail, Bildlink oder über einen anderen Kanal, den der Angreifer kontrolliert.

Quellen