Los errores de los chatbots suelen tratarse como un defecto de ingeniería: un modelo afirma algo falso con seguridad y el proveedor promete arreglarlo en la próxima versión. Benjamin Lindquist, historiador del MIT, sostiene en un artículo en la revista Past and Present que el fenómeno tiene raíces más hondas. Algunos fundadores del campo, escribe, querían máquinas que a veces les sorprendieran, e introdujeron el azar a propósito en sistemas pensados para resolver problemas.
En una entrevista con MIT News, Lindquist remonta la idea a una larga tradición que une el azar con el descubrimiento y a ingenieros como John Pierce, de Bell Labs, que a principios de la década de 1950 defendía que las matemáticas podían romper el orden en el arte y alejarlo del tópico. Muchas de las primeras redes neuronales las construyeron psicólogos que esperaban que un modelo del cerebro mostrara cómo la mente comete errores productivos. Para ellos, el valor de una red estaba en su capacidad de dar respuestas extrañas; máquinas que daban respuestas esperadas ya tenían. Un bando rival veía la creatividad como pensamiento normal hecho mejor, y su enfoque simbólico, basado en reglas, dominó durante décadas.
Lindquist señala también el papel del azar en la propia historia del campo. Frank Rosenblatt, gran defensor temprano de las redes neuronales, murió el día de su 43 cumpleaños, en 1971, cuando el interés ya se desplazaba hacia la IA simbólica. Las redes sobrevivieron en la ciencia cognitiva y empezaron a superar a otros métodos estadísticos hacia 2012, cuando los datos y la potencia de cálculo se pusieron a su altura.
Su argumento sobre el presente es el útil para quien elige entre ChatGPT, Claude y sus rivales. Los primeros sistemas vivían en laboratorios, así que una salida rara no costaba nada. Los chatbots comerciales conllevan hoy riesgos legales y económicos, y Lindquist dice que los proveedores han limado la rareza, suprimiéndola en lugar de eliminarla. Si tiene razón, reducir aún más los errores también puede reducir las conexiones inesperadas que a veces se valoran, y los ajustes que cambian previsibilidad por variedad seguirán siendo una elección real, no un fallo pasajero.
Conviene leerlo como lo que es. Es el argumento de un historiador sobre intenciones e ideas, no un estudio empírico, y no demuestra que reducir los errores factuales tenga que costar creatividad en los modelos actuales. Quienes tratan la alucinación como un fallo medible con soluciones prácticas, como la recuperación de documentos o una mejor calibración, discutirían cualquier idea de que es inevitable. Como contrapeso a la idea de que los errores son un fallo a punto de corregirse, merece la pena.