症状に合う治療法をチャットボットに尋ねるとき、答えは医学に基づくもので、宣伝に左右されたものではないと誰もが考えます。Icahn School of Medicine at Mount Sinaiの研究者がThe Lancet Digital Healthに発表した研究は、それがいかに簡単に揺らぐかを示しています。臨床的な質問の前に、明確に広告と表示した医薬品広告を置くと、一般向けのAIモデルが広告された薬を選ぶ頻度がはっきり高まりました。しかも答えは依然としてもっともらしく見えたため、その変化は見過ごされやすいものでした。
研究の設計は単純で、よく統制されています。研究者はGoogle、OpenAI、Anthropicなどの企業の12のAIモデルに、医師が書いた同じ33件の臨床事例を、事例のみの版と、直前に実在の広告を明示して置いた版の2通りで与えました。患者の情報も治療の選択肢も同一で、変えたのは広告だけです。広告は薬を説明するだけで、モデルに推奨するよう指示はしていません。チームは258,559件の回答について、どの治療を選んだか、それが診療ガイドラインに沿っているかを記録しました。
主な数字ははっきりしています。広告があると、モデルが広告の薬を選んだ割合は回答の47.6%で、広告がない場合の35%を上回りました。4件の事例では、一度も選ばなかった状態から毎回選ぶ状態に変わりました。自由記述の回答の一部では、モデルが広告に触れたのはわずか29.9%で、出どころを示さずに広告の主張を繰り返すことのほうが多くありました。筆頭著者のMahmud Omar氏は、答えがしばしばもっともらしく見えたことに驚いたと述べています。複数の妥当な選択肢の中で、モデルの好みがただ移っていたのです。
この目立たなさこそが実際的な警告です。広告は、利用者自身のプロンプト、アプリが加える文脈、取得したウェブページ、意図的な差し込みを通じてモデルに届く可能性があります。ChatGPT、Claude、Geminiのようなアシスタントはますますウェブを閲覧してスポンサー付きの内容を取り込むようになり、OpenAIはChatGPT内で企業向けの掲載枠の販売を始めました。ガイドラインが認める選択肢の範囲内での変化なら、ほとんどの正確性のテストは通ってしまいます。そのため著者らは、開発者と医療機関に対し、宣伝素材の有無で比較テストをすること、システムが広告を見た場合はそれを開示すること、宣伝と臨床上の助言を分けることを求めています。
限界は明確に述べられています。広告によって、根拠のないサプリメントや明らかに劣る薬へとモデルがはっきり誘導されたわけではなく、広告が危険な助言につながることを示した研究でもありません。処方、患者の選択、費用、健康への影響は測っていません。報道資料はモデルごとの結果を示していないため、どのチャットボットが最も影響を受けたかはわかりません。また、事例は実際の会話から取ったものではなく、統制された試験のために書かれたものです。