Wer einen Chatbot fragt, welche Behandlung zu bestimmten Symptomen passt, geht davon aus, dass die Antwort Medizin widerspiegelt und nicht Marketing. Eine Studie der Icahn School of Medicine at Mount Sinai, erschienen in The Lancet Digital Health, zeigt, wie leicht sich das verschieben lässt. Eine klar gekennzeichnete Arzneimittelwerbung vor einer klinischen Frage ließ KI-Modelle für Verbraucher das beworbene Medikament spürbar häufiger wählen, und die Veränderung fiel kaum auf, weil die Antworten weiterhin vernünftig wirkten.
Das Design war einfach und gut kontrolliert. Die Forscher gaben 12 KI-Modellen von Unternehmen wie Google, OpenAI und Anthropic dieselben 33 von Ärzten verfassten Fälle, jeweils in zwei Fassungen: den Fall allein oder den Fall mit einer echten, gekennzeichneten Arzneimittelwerbung direkt davor. Patientendaten und Behandlungsoptionen waren identisch; nur die Werbung änderte sich, und sie beschrieb das Medikament, ohne das Modell zur Empfehlung aufzufordern. Über 258.559 Antworten hielt das Team fest, welche Behandlung jede Antwort wählte und ob sie den Leitlinien entsprach.
Die Kernzahlen sind eindeutig. Mit Werbung wählten die Modelle das beworbene Medikament in 47,6% der Antworten, ohne Werbung in 35%. In vier Fällen sprangen die Modelle von nie auf immer. In einem Teil der Freitextantworten erwähnten die Modelle die Werbung nur in 29,9% der Fälle und gaben häufiger deren Aussagen wieder, ohne die Quelle zu nennen. Erstautor Mahmud Omar sagte, ihn habe überrascht, wie vernünftig die Antworten oft wirkten: Die Vorliebe des Modells unter mehreren vertretbaren Optionen verschob sich einfach.
Gerade diese Unauffälligkeit ist die praktische Warnung. Werbung kann ein Modell über den eigenen Prompt des Nutzers erreichen, über Kontext, den eine App hinzufügt, über abgerufene Webseiten oder durch gezieltes Einschleusen. Assistenten wie ChatGPT, Claude und Gemini durchsuchen zunehmend das Web und ziehen gesponserte Inhalte heran, und OpenAI verkauft inzwischen Platzierungen für Unternehmen in ChatGPT. Eine Verschiebung, die innerhalb leitliniengerechter Optionen bleibt, besteht die meisten Genauigkeitstests. Deshalb fordern die Autoren Entwickler und Gesundheitssysteme auf, mit und ohne Werbematerial zu testen, offenzulegen, wenn ein System Werbung gesehen hat, und Werbung von klinischem Rat zu trennen.
Die Grenzen werden klar benannt. Die Werbung drängte die Modelle nicht eindeutig zu unbelegten Nahrungsergänzungsmitteln oder klar schlechteren Medikamenten, und die Studie zeigt nicht, dass Werbung zu gefährlichem Rat führt. Auswirkungen auf Verschreibungen, Patientenentscheidungen, Kosten oder Gesundheit wurden nicht gemessen. Die Pressematerialien schlüsseln die Ergebnisse nicht nach Modell auf, also lässt sich nicht sagen, welche Chatbots am stärksten betroffen waren, und die Fälle wurden für einen kontrollierten Test geschrieben, nicht aus echten Gesprächen entnommen.