Os erros dos chatbots costumam ser tratados como defeito de engenharia: um modelo afirma algo falso com confiança, e a empresa promete corrigir na próxima versão. Benjamin Lindquist, historiador do MIT, argumenta num artigo na revista Past and Present que o comportamento tem raízes mais profundas. Alguns fundadores da área, escreve ele, queriam máquinas que às vezes os surpreendessem e colocaram o acaso de propósito em sistemas feitos para resolver problemas.
Em entrevista ao MIT News, Lindquist liga a ideia a uma longa tradição que associa acaso e descoberta e a engenheiros como John Pierce, do Bell Labs, que no início dos anos 1950 defendia que a matemática podia quebrar a ordem na arte e afastá-la do clichê. Muitas das primeiras redes neurais foram construídas por psicólogos que esperavam que um modelo do cérebro mostrasse como a mente comete erros produtivos. Para esses defensores, o valor de uma rede estava na capacidade de dar respostas estranhas; máquinas com respostas previsíveis eles já tinham. Um grupo rival via a criatividade como pensamento comum feito melhor, e sua abordagem simbólica, baseada em regras, dominou por décadas.
Lindquist também aponta o papel do acaso na própria história da área. Frank Rosenblatt, um dos principais defensores das primeiras redes neurais, morreu no dia do seu aniversário de 43 anos, em 1971, quando o interesse já migrava para a IA simbólica. As redes sobreviveram na ciência cognitiva e começaram a superar outros métodos estatísticos por volta de 2012, quando dados e poder de computação chegaram.
O argumento dele sobre o presente é o mais útil para quem escolhe entre ChatGPT, Claude e seus rivais. Os primeiros sistemas viviam em laboratórios, então uma saída estranha não custava nada. Chatbots comerciais hoje carregam riscos jurídicos e financeiros, e Lindquist diz que as empresas lixaram a estranheza, reprimindo-a em vez de eliminá-la. Se ele estiver certo, reduzir ainda mais os erros também pode reduzir as conexões inesperadas que as pessoas às vezes valorizam, e configurações que trocam previsibilidade por variedade continuarão sendo uma escolha real, não um defeito passageiro.
Vale ler pelo que é. Trata-se do argumento de um historiador sobre intenções e ideias, não de um estudo empírico, e ele não mostra que reduzir erros factuais precisa custar criatividade nos modelos atuais. Pesquisadores que tratam a alucinação como uma falha mensurável com soluções práticas, como recuperação de documentos ou melhor calibração, contestariam qualquer ideia de que ela é inevitável. Como contraponto à noção de que erros são só um bug prestes a ser corrigido, vale o tempo.