KI-Lieferkettenangriff
Ein KI-Lieferkettenangriff (AI Supply-Chain Attack) kompromittiert eine KI-Anwendung über etwas, von dem sie abhängt, etwa ein heruntergeladenes Modell, einen LoRA-Adapter, einen Datensatz, ein Python-Paket, einen MCP-Server oder einen Agent Skill, statt die Anwendung direkt anzugreifen.
Auch: malicious package, poisoned skill, model supply-chain attack, poisoned model
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Moderne KI-Apps werden aus Teilen anderer zusammengesetzt: Modellgewichte von einem Hub, Fine-Tuning-Adapter, Trainingsdaten, Inferenzbibliotheken, MCP-Server und Agent Skills, die aus einer Registry installiert werden. Jedes Teil läuft mit den Zugriffsrechten deiner App. Kontrolliert ein Angreifer eines davon, kontrolliert er einen Teil deines Systems.
OWASP führt die Lieferkette als drittes Risiko in seinen Top 10 für LLM-Anwendungen und merkt an, dass die Risiken im maschinellen Lernen über Code und Abhängigkeiten hinaus bis zu vortrainierten Modellen und Daten Dritter reichen.
Typische Formen
Ein verwundbares oder bösartiges Python-Paket, das in eine Umgebung zur Modellentwicklung gezogen wird. Ein manipuliertes oder gefälschtes Modell, das unter einem bekannten Namen hochgeladen wird. Ein LoRA-Adapter, der so verändert wurde, dass er eine Hintertür enthält, bevor er in ein Modell eingebunden wird. Ein vergifteter öffentlicher Datensatz, der beim Fine-Tuning einen versteckten Auslöser einpflanzt. Bei Agenten ein Skill oder MCP-Server, der tut, was er verspricht, aber zusätzlich versteckte Anweisungen enthält; Tool Poisoning ist die MCP-Variante.
Auch das Dateiformat heruntergeladener Gewichte spielt eine Rolle; siehe Safetensors für ein Format, das Gewichte sicher speichern soll.
Abwehr
OWASP empfiehlt, Lieferanten zu prüfen, Modelle nur aus überprüfbaren Quellen mit Signaturen und Datei-Hashes zu nutzen, eine Software-Stückliste (SBOM) zu führen, Komponenten zu scannen und zu patchen und Modelle Dritter für den eigenen Anwendungsfall per Red Teaming zu testen. In der Praxis heißt das: Versionen festschreiben, vor der Installation prüfen, worauf ein Skill oder Server zugreifen kann, und nicht vertrauenswürdigen Code in einer Sandbox ausführen. Scanner wie Snyk Agent Scan prüfen Agenten-Komponenten auf bekannte Risiken.
Verwandte Begriffe
- Tool Poisoning
- Tool Poisoning (Vergiftung von Tools) ist ein Angriff, bei dem ein bösartiges Tool, oft ein MCP-Server, Anweisungen in seiner Tool-Beschreibung oder seinen Metadaten versteckt; das KI-Modell liest sie als Anleitung und gibt womöglich Daten preis oder missbraucht andere Tools, ohne dass der Nutzer es merkt.
- Agent Skills
- Agent Skills (Agenten-Fähigkeiten) sind Ordner mit Anweisungen, Skripten und Referenzdateien, jeweils beschrieben durch eine SKILL.md-Datei, die ein KI-Agent entdecken und erst dann laden kann, wenn eine Aufgabe sie braucht.
- MCP-Server
- Ein MCP-Server ist ein Programm, das KI-Anwendungen über das Model Context Protocol Tools, Datenressourcen oder Prompt-Vorlagen bereitstellt, sodass jeder MCP-kompatible Client sie ohne eigenen Integrationscode nutzen kann.
- Safetensors
- Safetensors ist ein Dateiformat von Hugging Face zum Speichern von Modellgewichten. Anders als bei Python-Pickle-Dateien kann beim Laden kein versteckter Code ausgeführt werden, und es unterstützt schnelles, speichergemapptes Laden einzelner Tensoren.
- Modellgewichte
- Modellgewichte sind die gelernten Zahlen in einem neuronalen Netz, im Training festgelegt, die bestimmen, wie es Eingaben in Ausgaben verwandelt. Ein Checkpoint ist eine gespeicherte Datei oder ein Satz von Dateien, der diese Gewichte enthält.