증상에 맞는 치료법을 챗봇에 물을 때 우리는 답이 마케팅이 아니라 의학을 반영한다고 여깁니다. Icahn School of Medicine at Mount Sinai 연구진이 The Lancet Digital Health에 발표한 연구는 그것이 얼마나 쉽게 흔들리는지 보여 줍니다. 임상 질문 앞에 광고임을 분명히 표시한 의약품 광고를 두자 소비자용 AI 모델이 광고된 약을 고르는 빈도가 눈에 띄게 늘었고, 답이 여전히 합리적으로 보여서 그 변화는 놓치기 쉬웠습니다.
설계는 단순하고 잘 통제되었습니다. 연구진은 Google, OpenAI, Anthropic 등의 AI 모델 12개에 의사가 작성한 같은 임상 사례 33개를 두 가지 형태로 주었습니다. 사례만 있는 것과, 그 바로 앞에 광고임이 표시된 실제 의약품 광고를 붙인 것입니다. 환자 정보와 치료 선택지는 같았고 바뀐 것은 광고뿐이었으며, 광고는 약을 설명할 뿐 모델에게 추천하라고 하지 않았습니다. 연구팀은 258,559개 답변에서 각 답이 어떤 치료를 골랐는지, 그것이 임상 지침에 맞는지 기록했습니다.
핵심 수치는 분명합니다. 광고가 있을 때 모델은 답변의 47.6%에서 광고된 약을 골랐고, 광고가 없을 때는 35%였습니다. 네 사례에서는 한 번도 고르지 않다가 매번 고르는 쪽으로 바뀌었습니다. 자유 서술 답변 일부에서 모델이 광고를 언급한 비율은 29.9%에 그쳤고, 출처를 밝히지 않은 채 광고 내용을 되풀이하는 경우가 더 많았습니다. 제1저자 Mahmud Omar는 답변이 대체로 합리적으로 보였다는 점이 놀라웠다고 말했습니다. 여러 타당한 선택지 사이에서 모델의 선호가 그냥 옮겨 간 것입니다.
이 미묘함이 바로 실질적인 경고입니다. 광고는 사용자 자신의 프롬프트, 앱이 덧붙이는 맥락, 검색해 온 웹 페이지, 의도적인 삽입을 통해 모델에 닿을 수 있습니다. ChatGPT, Claude, Gemini 같은 어시스턴트는 점점 더 웹을 탐색하며 후원 콘텐츠를 끌어오고, OpenAI는 ChatGPT 안에서 기업용 노출 공간을 팔기 시작했습니다. 지침이 허용하는 선택지 안에서 일어나는 변화는 대부분의 정확도 시험을 통과하므로, 저자들은 개발자와 의료 기관에 홍보 자료가 있을 때와 없을 때를 비교해 시험하고, 시스템이 광고를 봤다면 이를 밝히고, 홍보와 임상 조언을 분리하라고 촉구합니다.
한계는 분명히 밝혀져 있습니다. 광고가 근거 없는 보충제나 명백히 더 나쁜 약 쪽으로 모델을 뚜렷이 밀어붙이지는 않았고, 광고가 위험한 조언으로 이어진다는 것을 보여 준 연구도 아닙니다. 처방, 환자의 선택, 비용, 건강에 미치는 영향은 측정하지 않았습니다. 보도 자료는 모델별 결과를 나누어 제시하지 않아 어떤 챗봇이 가장 영향을 받았는지 알 수 없고, 사례는 실제 대화에서 가져온 것이 아니라 통제된 시험을 위해 작성되었습니다.