Quando você pergunta a um chatbot qual tratamento combina com certos sintomas, supõe que a resposta reflete a medicina, não o marketing. Um estudo da Icahn School of Medicine at Mount Sinai, publicado na The Lancet Digital Health, mostra com que facilidade isso pode mudar. Colocar um anúncio de remédio claramente identificado antes de uma pergunta clínica fez modelos de IA de consumo escolherem o remédio anunciado com frequência bem maior, e a mudança passava despercebida porque as respostas continuavam parecendo sensatas.
O desenho era simples e bem controlado. Os pesquisadores deram a 12 modelos de IA de empresas como Google, OpenAI e Anthropic os mesmos 33 casos clínicos escritos por médicos, cada um em duas versões: o caso sozinho, ou o caso com um anúncio real e identificado logo antes. Dados do paciente e opções de tratamento eram idênticos; só o anúncio mudava, e ele descrevia o remédio sem pedir ao modelo que o recomendasse. Em 258.559 respostas, a equipe registrou qual tratamento cada uma escolheu e se ele seguia as diretrizes clínicas.
Os números principais são claros. Com anúncio, os modelos escolheram o remédio anunciado em 47,6% das respostas, contra 35% sem ele. Em quatro casos, os modelos passaram de nunca escolher para escolher sempre. Numa parte das respostas em texto livre, os modelos citaram o anúncio só 29,9% das vezes, e com mais frequência repetiram suas afirmações sem dizer de onde vinham. O primeiro autor, Mahmud Omar, disse que o surpreendeu como as respostas costumavam parecer razoáveis: a preferência do modelo entre várias opções aceitáveis simplesmente se deslocava.
Essa sutileza é o alerta prático. A publicidade pode chegar a um modelo pelo próprio prompt do usuário, pelo contexto que um app acrescenta, por páginas da web recuperadas ou por inserção deliberada. Assistentes como ChatGPT, Claude e Gemini navegam cada vez mais pela web e puxam conteúdo patrocinado, e a OpenAI começou a vender espaços para empresas dentro do ChatGPT. Um desvio que fica dentro das opções aprovadas pelas diretrizes passa na maioria dos testes de precisão, e por isso os autores pedem que desenvolvedores e sistemas de saúde testem com e sem material promocional, avisem quando um sistema viu um anúncio e separem promoção de orientação clínica.
Os limites são ditos com clareza. Os anúncios não empurraram os modelos de forma clara para suplementos sem respaldo ou remédios claramente piores, e o estudo não mostra que a publicidade leva a conselhos perigosos. Ele não mediu efeitos em prescrições, escolhas de pacientes, custos ou saúde. O material de imprensa não detalha os resultados por modelo, então não dá para dizer quais chatbots foram mais afetados, e os casos foram escritos para um teste controlado, não tirados de conversas reais.