IA nesta semana: respostas inventadas, médicos de IA, uma escola de IA grátis

Nesta semana: por que o seu chatbot inventa coisas de propósito, um painel de médicos de IA que acaba de passar pela revisão por pares e uma escola grátis da OpenAI que dá um selo quando você é aprovado.

As respostas inventadas da sua IA começaram como um recurso

Você pede a um chatbot uma recomendação de livro, ela parece perfeita, e aí você busca o título e ele não existe.

É tentador chamar isso de bug que a próxima atualização vai corrigir. Benjamin Lindquist, historiador do MIT, em vez disso, traça a origem até os anos 1950, quando pesquisadores colocavam aleatoriedade nas máquinas de propósito. Um computador que só dava a resposta esperada não impressionava; eles queriam um que pudesse surpreendê-los. Muitas das primeiras redes neurais foram construídas por psicólogos como Frank Rosenblatt, que esperavam que os erros estranhos das máquinas mostrassem como o nosso próprio cérebro tem ideias.

Hoje você usa IA porque espera que ela acerte, e as empresas de IA se esforçam para impedir que ela diga qualquer coisa estranha. Lindquist chama isso de "lixar" a estranheza e argumenta que ela continua lá por baixo, apenas reprimida. O artigo dele está na revista Past & Present.

Nossa opinião: o traço que lhe dá uma ideia surpreendente e o que inventa um livro provavelmente são o mesmo traço. Deixe o chatbot divagar quando você quiser ideias. Quando for agir com base em um fato, peça a fonte e abra-a.

Um painel de médicos de IA nos casos mais difíceis da medicina

Quando um sintoma não se encaixa em nada óbvio, conseguir uma resposta pode levar meses, com um especialista descartando algo antes de mandar você para o próximo.

O Diagnostic Orchestrator (MAI-DxO) da Microsoft coloca uma sala inteira no caso. Ele roda um painel de médicos virtuais: cada um sugere o que pode estar errado e qual pergunta ou exame deve vir em seguida, e eles discutem ao longo de várias rodadas à medida que os resultados chegam. Como um médico de verdade, ele começa com um resumo curto e precisa pedir cada detalhe adicional.

Em 304 casos difíceis do New England Journal of Medicine, ele chegou ao diagnóstico certo em 83% das vezes. Médicos generalistas acertaram 22% de memória e 36% quando podiam consultar fontes. Em casos mais comuns de pronto-socorro, ele marcou 80% contra 47% dos médicos, muitas vezes com menos exames. O estudo agora está publicado na Science.

O porém: eram casos escritos, não pacientes em uma sala, e a comparação foi com generalistas, não com especialistas nem com uma equipe hospitalar completa. Todos os autores trabalham para a Microsoft. O próximo passo importa mais que a pontuação: um estudo no Beth Israel Deaconess Medical Center, em Boston, em que os pacientes falam diretamente com o sistema, comparado com o julgamento dos próprios médicos.

Nossa opinião: casos difíceis se arrastam porque um médico só tem certo número de horas. Um painel como este é mais útil como a segunda opinião que o seu médico nunca teve tempo de buscar, com a decisão ainda nas mãos dele.

Uma escola grátis para ficar melhor em IA

Aprender algo novo normalmente significa uma conta a pagar e um horário que não é o seu.

A OpenAI Academy não tem nenhum dos dois. Os cursos são grátis e no seu ritmo para qualquer pessoa com conta no ChatGPT, e em setembro a OpenAI a ampliou para quatro trilhas de aprendizagem e 14 cursos: trabalho do dia a dia, desenvolvimento com Codex e a API, liderança na adoção de IA, e ensino e estudo. A maioria dos cursos leva entre meia hora e três horas. Passe na prova final do curso com 80% ou mais e você ganha um selo.

O porém: a OpenAI diz com todas as letras que os selos não são certificações. Eles mostram que você terminou um curso, não que um empregador deva tratá-lo como qualificado.

Nossa opinião: usar IA todo dia ensina o que funciona nas tarefas que você já entrega a ela. Um curso mostra as tarefas que você nunca pensou em tentar, que é onde costumam se esconder as maiores economias de tempo. O curso de fundamentos de 70 minutos é um jeito barato de descobrir que tipo de usuário você é.