チャットボットの誤りは、たいてい技術的な欠陥として語られます。モデルが自信たっぷりに誤ったことを述べ、提供企業は次の版での修正を約束します。MITの歴史家Benjamin Lindquistは、学術誌Past and Presentに掲載された論文で、この振る舞いにはもっと深い根があると論じています。この分野の創始者の一部は、ときどき自分たちを驚かせる機械を望み、問題を解くための仕組みにわざと偶然を組み込んだというのです。
MIT Newsのインタビューで、Lindquistはこの考えを、偶然と発見を結び付ける長い伝統と、Bell LabsのJohn Pierceのような技術者にさかのぼらせています。Pierceは1950年代初め、数学は芸術の秩序を崩し、決まり文句から遠ざけるのに使えると主張しました。初期のニューラルネットワークの多くは、脳のモデルが心の実りある誤りの仕組みを示してくれると期待した心理学者が作ったものでした。こうした支持者にとって、ネットワークの価値は奇妙な答えを出せることにありました。予想どおりの答えを出す機械はすでにあったからです。対立する陣営は創造性を「普通の思考をよりうまくやること」と見なし、その記号的で規則に基づく手法が何十年も主流でした。
Lindquistは、分野の歴史そのものにおける偶然の役割にも触れています。ニューラルネットワークの初期の代表的な推進者Frank Rosenblattは、関心がすでに記号AIへ移りつつあった1971年、43歳の誕生日に亡くなりました。ネットワークは認知科学の中で生き延び、データと計算能力が追いついた2012年ごろから、ほかの統計的手法を上回り始めました。
ChatGPT、Claude、その競合から選ぶ人にとって役に立つのは、現在についての指摘です。初期のシステムは研究室の中にあり、奇妙な出力に代償はありませんでした。今の商用チャットボットは法的、金銭的なリスクを抱えており、Lindquistによると、提供企業は奇妙さを削り落とし、取り除くのではなく抑え込んでいます。彼が正しければ、誤りをさらに減らすと、人々がときに評価する思いがけない結び付きも減るかもしれません。予測しやすさと多様さを交換する設定は、一時的な不具合ではなく、本当の選択であり続けるでしょう。
この論文はその性格どおりに読むべきです。これは意図や考え方をめぐる歴史家の議論であり、実証研究ではありません。今のモデルで事実誤りを減らせば必ず創造性が失われる、と示しているわけでもありません。ハルシネーションを、検索の活用やより良い較正といった実用的な対策のある測定可能な失敗として扱う研究者は、避けられないものだという見方には異を唱えるでしょう。誤りは間もなく修正される単なるバグだ、という考えへの反論としては、読む価値があります。