Les erreurs des chatbots sont généralement présentées comme un défaut technique : un modèle affirme une chose fausse avec assurance, et l'éditeur promet une correction dans la prochaine version. Benjamin Lindquist, historien au MIT, soutient dans un article de la revue Past and Present que ce comportement a des racines plus profondes. Certains fondateurs du domaine, écrit-il, voulaient des machines capables de les surprendre de temps à autre et ont délibérément introduit le hasard dans des systèmes conçus pour résoudre des problèmes.
Dans un entretien avec MIT News, Lindquist rattache l'idée à une longue tradition qui associe le hasard à la découverte, et à des ingénieurs comme John Pierce, des Bell Labs, qui estimait au début des années 1950 que les mathématiques pouvaient briser l'ordre dans l'art et l'éloigner du cliché. Beaucoup des premiers réseaux de neurones ont été construits par des psychologues qui espéraient qu'un modèle du cerveau montrerait comment l'esprit commet des erreurs fécondes. Pour eux, la valeur d'un réseau tenait à sa capacité à produire des réponses étranges ; des machines aux réponses attendues, ils en avaient déjà. Un camp rival voyait la créativité comme une pensée ordinaire mieux exercée, et son approche symbolique, fondée sur des règles, a dominé pendant des décennies.
Lindquist rappelle aussi la part du hasard dans l'histoire du domaine. Frank Rosenblatt, grand défenseur des premiers réseaux de neurones, est mort le jour de ses 43 ans, en 1971, alors que l'intérêt glissait déjà vers l'IA symbolique. Les réseaux ont survécu en sciences cognitives et ont commencé à dépasser d'autres méthodes statistiques vers 2012, quand les données et la puissance de calcul ont suivi.
Son propos sur le présent est le plus utile pour qui choisit entre ChatGPT, Claude et leurs concurrents. Les premiers systèmes vivaient en laboratoire, et une sortie bizarre ne coûtait rien. Les chatbots commerciaux portent aujourd'hui des risques juridiques et financiers, et selon Lindquist les éditeurs ont gommé l'étrangeté, en la réprimant plutôt qu'en la supprimant. S'il a raison, réduire encore les erreurs pourrait aussi réduire les rapprochements inattendus que l'on apprécie parfois, et les réglages qui échangent prévisibilité contre variété resteront un vrai choix plutôt qu'un défaut passager.
Il faut le lire pour ce qu'il est. C'est l'argument d'un historien sur des intentions et des idées, pas une étude empirique, et il ne démontre pas que réduire les erreurs factuelles coûte forcément de la créativité aux modèles actuels. Les chercheurs qui traitent l'hallucination comme un échec mesurable, doté de remèdes pratiques comme la recherche documentaire ou un meilleur calibrage, contesteraient toute idée d'inévitabilité. Comme contrepoint à l'idée que les erreurs ne sont qu'un bug sur le point d'être corrigé, il mérite d'être lu.