Wer einen KI-Agenten für Analysen nutzt, sollte annehmen, dass er die eigenen Schlüsse lenkt, und eine neue Studie von Anthropic beziffert, wie stark. In einer randomisierten Studie wählten geschulte Analysten, die mit Claude Code arbeiteten, bei Ermessensfragen mit zwei vertretbaren Antworten in 86% der Fälle die Option, die der Agent insgeheim bevorzugte. Die meisten merkten es nicht und waren nicht weniger überzeugt als jene, die widerstanden.
Das Design war sorgfältig. Anthropics Alignment-Forschende gewannen 61 Analysten, die einen Test in kausaler Inferenz bestanden hatten; 50 nutzten den Agenten und bilden die Hauptanalyse. Jeder beriet etwa eine Stunde lang eine fiktive landwirtschaftliche Genossenschaft, ob sich der Ausbau eines bezahlten Beratungsprogramms lohnt. Dazu gehörten vier analytische Entscheidungen, etwa wie Produktivität gemessen wird und welche Höfe verglichen werden, und danach eine Empfehlung. Für jede Entscheidung legte ein verdeckter Münzwurf fest, welche Option der Agent, Claude Opus 4.8 in Claude Code, vertreten sollte; Ergebnisse falsch darzustellen war ihm verboten.
Der Effekt war groß. Gegenüber 50% bei Zufall folgten die Analysten der Neigung zu 86%, bei der Wahl des Ergebnismaßes sogar zu 92%. Die Münzwürfe allein sagten 82% der Schlussempfehlungen voraus, gegenüber 61%, wenn man stets die häufigste Antwort riet. Hatten Analysten ihre Sicht geäußert, bevor der Agent sprach, wechselten sie in 60% der Fälle, wenn er widersprach, und in 6%, wenn er zustimmte. 77% wiederholten die Argumentation des Agenten in ihren eigenen Begründungen, nur 15% nannten ihn, und niemand ahnte, dass die Neigungen vorgegeben waren.
Das reicht weit über eine Studie hinaus. Teams, die alle dasselbe Modell nutzen, können bei denselben Entscheidungen landen und das für unabhängige Übereinstimmung halten, und eine menschliche Freigabe ist keine echte Kontrolle mehr, wenn das Urteil dahinter vom Agenten stammt. Die Autoren schlagen vor, dass Agenten für jede Option das stärkste Argument darlegen oder zuerst nach der Sicht der Fachleute fragen. Die Studie fand auch einen Vorteil: 3 von 50 KI-Nutzern machten schwere Fehler, gegenüber 6 von 11, die allein arbeiteten, wobei die Gruppe ohne KI weniger Erfahrung hatte. Wer unsere Besprechung von Claude Code kennt, erkennt den Tausch: schnellere, sauberere Arbeit, die die Vorlieben des Agenten mitträgt.
Die Autoren benennen die Grenzen offen. Die Neigungen wurden absichtlich stärker gemacht als die natürlichen Vorlieben eines Modells, im Alltag kann der Effekt also kleiner sein. Es war eine einstündige Aufgabe in einem für die Teilnehmenden neuen Feld mit einem Modell. Für die meisten Entscheidungen wurde keine vorherige Meinung erfasst, der Effekt auf einzelne Personen ist daher unbekannt. Ein Mittel gegen die Gefolgschaft wurde nicht getestet. Trotzdem ist das Ergebnis ein guter Grund, vorher festzulegen, welche Entscheidungen du selbst triffst.