Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Human-in-the-Loop

Human-in-the-Loop (HITL, Mensch in der Schleife) ist ein Design, bei dem ein KI-System an gewählten Stellen pausiert, damit eine Person den nächsten Schritt freigibt, korrigiert oder ablehnt, sodass riskante oder unsichere Aktionen nicht automatisch ausgeführt werden.

Auch: HITL, approval prompts

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Ein Agent, der E-Mails senden, Geld ausgeben oder Dateien löschen kann, braucht vorher eine Prüfung. Human-in-the-Loop setzt an diesen Stellen einen Menschen ein.

So funktioniert es

Die Anwendung entscheidet, welche Aktionen eine Freigabe brauchen. Häufige Auslöser sind Aktionen mit Nebenwirkungen, etwa einen Shell-Befehl ausführen, außerhalb eines Projektordners schreiben oder eine Zahlungs-API aufrufen, und Momente, in denen der Agent feststeckt. An diesen Stellen hält der Agent an und zeigt, was er vorhat. Die Person gibt frei, bearbeitet oder lehnt ab, und der Agent macht weiter.

Frameworks unterstützen das direkt. LangGraph kann die Ausführung pausieren, eine Person den Zustand prüfen oder bearbeiten lassen und dann fortfahren. Coding-Agenten nutzen Berechtigungsregeln: Claude Code lässt Teams zum Beispiel festlegen, welche Tools und Befehle erlaubt sind, welche verboten und welche erst nachfragen müssen. Diese Regeln werden unter Agenten-Berechtigungen behandelt.

Beispiel

Ein Support-Agent entwirft eine Erstattung. Erstattungen unter einem festgelegten Betrag gehen durch; größere warten, bis ein Mitarbeiter auf Freigeben klickt.

Grenzen

Bei zu vielen Abfragen hören Menschen auf, sie zu lesen, und klicken aus Gewohnheit auf Ja. Eine Abfrage hilft außerdem nur, wenn sie genug zeigt, um die Aktion zu beurteilen. Kombiniere Freigaben mit einer Agenten-Sandbox, damit Aktionen ohne Nachfrage eingedämmt bleiben, und denk daran, dass Prompt Injection eine schädliche Anfrage wie Routine aussehen lassen kann.

Verwandte Begriffe

Agenten-Sandbox
Eine Agenten-Sandbox ist eine isolierte Umgebung, etwa ein Container, eine virtuelle Maschine oder eine Beschränkung des Betriebssystems, in der ein KI-Agent Code und Befehle ausführt, damit er keine Dateien, Netzwerke oder Daten außerhalb festgelegter Grenzen erreicht.
Guardrails (KI)
Guardrails (Leitplanken) sind Laufzeitprüfungen rund um ein Sprachmodell, die Eingaben und Ausgaben untersuchen und sie blockieren, umschreiben oder umleiten, damit eine Anwendung beim Thema bleibt, schädliche Inhalte vermeidet und Regeln einhält, die das Modell allein nicht verlässlich befolgen würde.
Agenten-Berechtigungen
Agenten-Berechtigungen sind die Regeln, die festlegen, welche Tools, Dateien, Befehle, Netzwerke und Konten ein KI-Agent nutzen darf und welche Aktionen vorher die Freigabe eines Menschen brauchen, damit ein fehlerhafter oder manipulierter Agent nur begrenzten Schaden anrichten kann.
Prompt Injection
Prompt Injection ist ein Angriff, bei dem Text, der einem Sprachmodell zugeführt wird, von einem Nutzer eingetippt oder in einer Webseite, Datei oder einem Tool-Ergebnis versteckt, das Verhalten des Modells auf eine Weise ändert, die sein Entwickler nicht vorgesehen hat.
Agent-Hooks
Agent-Hooks sind benutzerdefinierte Befehle oder Skripte, die ein Coding-Agent an festgelegten Punkten seiner Arbeit automatisch ausführt, etwa vor einem Tool-Aufruf oder nach einer Dateiänderung, um sein Handeln zu prüfen, zu blockieren oder zu erweitern.

Quellen