Fehler von Chatbots werden meist als technischer Mangel behandelt: Ein Modell behauptet selbstsicher etwas Falsches, und der Anbieter verspricht eine Korrektur in der nächsten Version. Benjamin Lindquist, Historiker am MIT, argumentiert in einem Aufsatz in der Zeitschrift Past and Present, dass das Verhalten tiefere Wurzeln hat. Einige Gründer des Fachs, schreibt er, wollten Maschinen, die sie gelegentlich überraschen, und bauten den Zufall bewusst in Systeme ein, die Probleme lösen sollten.
Im Gespräch mit MIT News führt Lindquist die Idee auf eine lange Tradition zurück, die Zufall mit Entdeckung verbindet, und auf Ingenieure wie John Pierce von Bell Labs, der Anfang der 1950er-Jahre meinte, Mathematik könne Ordnung in der Kunst aufbrechen und sie vom Klischee wegführen. Viele frühe neuronale Netze bauten Psychologen, die hofften, ein Modell des Gehirns werde zeigen, wie der Geist produktive Fehler macht. Für diese Befürworter lag der Wert eines Netzes in seiner Fähigkeit zu seltsamen Antworten; Maschinen mit erwartbaren Antworten hatten sie schon. Ein rivalisierendes Lager sah Kreativität als normales Denken, nur besser, und sein symbolischer, regelbasierter Ansatz beherrschte das Feld jahrzehntelang.
Lindquist verweist auch auf die Rolle des Zufalls in der Geschichte des Fachs selbst. Frank Rosenblatt, ein führender früher Verfechter neuronaler Netze, starb 1971 an seinem 43. Geburtstag, als sich das Interesse bereits der symbolischen KI zuwandte. Netze überlebten in der Kognitionswissenschaft und überholten um 2012 andere statistische Verfahren, als Daten und Rechenleistung aufgeholt hatten.
Nützlich ist sein Befund zur Gegenwart für alle, die zwischen ChatGPT, Claude und ihren Konkurrenten wählen. Frühe Systeme lebten in Laboren, seltsame Ausgaben kosteten nichts. Kommerzielle Chatbots tragen heute rechtliche und finanzielle Risiken, und laut Lindquist haben die Anbieter das Seltsame abgeschliffen, es also unterdrückt statt entfernt. Hat er recht, drückt man mit weiteren Fehlern auch die unerwarteten Verbindungen nach unten, die Menschen manchmal schätzen, und Einstellungen, die Berechenbarkeit gegen Vielfalt tauschen, bleiben eine echte Wahl statt eines vorübergehenden Fehlers.
Man sollte es lesen als das, was es ist. Es ist das Argument eines Historikers über Absichten und Ideen, keine empirische Studie, und es zeigt nicht, dass weniger Faktenfehler bei heutigen Modellen zwangsläufig Kreativität kosten. Forschende, die Halluzinationen als messbares Versagen mit praktischen Abhilfen wie Retrieval oder besserer Kalibrierung behandeln, würden jede Behauptung bestreiten, sie seien unvermeidlich. Als Gegengewicht zur Vorstellung, Fehler seien bloß ein Bug kurz vor dem Patch, lohnt sich die Lektüre.