챗봇의 오류는 보통 기술적 결함으로 다뤄집니다. 모델이 틀린 내용을 자신 있게 말하면, 업체는 다음 버전에서 고치겠다고 약속합니다. MIT의 역사학자 Benjamin Lindquist는 학술지 Past and Present에 실린 논문에서 이 현상의 뿌리가 더 깊다고 주장합니다. 이 분야를 연 사람들 가운데 일부는 가끔 자신들을 놀라게 하는 기계를 원했고, 문제를 풀기 위한 시스템에 일부러 우연을 넣었다는 것입니다.
MIT News와의 인터뷰에서 Lindquist는 이 생각을 우연과 발견을 연결해 온 오랜 전통, 그리고 Bell Labs의 John Pierce 같은 엔지니어에게서 찾습니다. Pierce는 1950년대 초, 수학이 예술의 질서를 깨고 상투성에서 벗어나게 하는 데 쓰일 수 있다고 주장했습니다. 초기 신경망 상당수는 뇌의 모형이 마음이 생산적인 실수를 어떻게 저지르는지 보여 주리라 기대한 심리학자들이 만들었습니다. 이들에게 신경망의 가치는 이상한 답을 내놓는 능력에 있었습니다. 예상대로 답하는 기계는 이미 있었기 때문입니다. 반대 진영은 창의성을 평범한 사고를 더 잘하는 것으로 보았고, 이들의 규칙 기반 기호적 접근이 수십 년 동안 주류였습니다.
Lindquist는 이 분야 역사 자체에서 우연이 한 역할도 짚습니다. 신경망의 대표적인 초기 옹호자 Frank Rosenblatt는 관심이 이미 기호 AI로 옮겨 가던 1971년, 43번째 생일에 세상을 떠났습니다. 신경망은 인지과학 안에서 살아남았고, 데이터와 연산 능력이 따라잡은 2012년 무렵부터 다른 통계적 방법을 앞지르기 시작했습니다.
ChatGPT, Claude와 그 경쟁 제품 사이에서 고르는 사람에게 쓸모 있는 것은 현재에 관한 그의 지적입니다. 초기 시스템은 연구실 안에 있었기에 이상한 출력에 대가가 없었습니다. 지금의 상용 챗봇은 법적, 금전적 위험을 안고 있고, Lindquist는 업체들이 이상함을 없앤 것이 아니라 깎아 내 억누르고 있 다고 말합니다. 그의 말이 맞다면 오류를 더 줄이는 일은 사람들이 때로 높이 사는 뜻밖의 연결도 줄일 수 있으며, 예측 가능성과 다양성을 맞바꾸는 설정은 일시적인 결함이 아니라 실제 선택으로 남을 것입니다.
이 글은 그 성격대로 읽어야 합니다. 의도와 생각에 관한 역사학자의 논증이지 실증 연구가 아니며, 오늘날 모델에서 사실 오류를 줄이면 반드시 창의성을 잃는다는 것을 보여 주지도 않습니다. 환각을 검색 활용이나 더 나은 보정 같은 실용적 해법이 있는 측정 가능한 실패로 다루는 연구자들은 그것이 피할 수 없다는 주장에 반대할 것입니다. 오류란 곧 고쳐질 버그일 뿐이라는 생각에 대한 반론으로서는 읽을 가치가 있습니다.