La IA esta semana: respuestas inventadas, médicos de IA y una escuela de IA gratuita
Por Andrew Miller ·
Esta semana: por qué tu chatbot se inventa cosas a propósito, un panel de médicos de IA que acaba de superar la revisión por pares y una escuela gratuita de OpenAI que te da una insignia cuando apruebas.
Las respuestas inventadas de tu IA empezaron siendo una función
Le pides a un chatbot que te recomiende un libro, la recomendación suena perfecta y luego buscas el título y no existe.
Es tentador llamarlo un fallo que la próxima actualización corregirá. Benjamin Lindquist, historiador del MIT, lo remonta en cambio a la década de 1950, cuando los investigadores introducían aleatoriedad en sus máquinas de forma deliberada. Un ordenador que solo daba la respuesta esperada no impresionaba; querían uno que pudiera sorprenderles. Muchas de las primeras redes neuronales las construyeron psicólogos como Frank Rosenblatt, que esperaban que los errores raros de las máquinas mostraran cómo se le ocurren las ideas a nuestro propio cerebro.
Hoy usas la IA porque esperas que acierte, y las empresas de IA se esfuerzan mucho para que no diga nada extraño. Lindquist lo llama un "lijado" de la rareza, y sostiene que la rareza sigue ahí debajo, solo que reprimida. Su artículo está publicado en la revista Past & Present.
Nuestra opinión: la vena que te da una idea sorprendente y la que se inventa un libro probablemente son la misma. Deja que el chatbot divague cuando quieras ideas. Cuando vayas a actuar en función de un dato, pide la fuente y ábrela.
Un panel de médicos de IA ante los casos más difíciles de la medicina
Cuando un síntoma no encaja con nada evidente, conseguir una respuesta puede llevar meses, con un especialista descartando algo antes de enviarte al siguiente.
El Diagnostic Orchestrator (MAI-DxO) de Microsoft pone una sala entera a trabajar en el caso. Dirige un panel de médicos virtuales: cada uno propone qué puede estar fallando y qué pregunta o prueba debería venir después, y discuten durante varias rondas a medida que llegan los resultados. Como un médico de verdad, empieza con un breve resumen y tiene que pedir cada detalle adicional.
En 304 casos difíciles del New England Journal of Medicine, llegó al diagnóstico correcto el 83% de las veces. Los médicos generalistas acertaron el 22% de memoria y el 36% cuando podían consultar. En casos de urgencias más corrientes obtuvo un 80% frente al 47% de los médicos, a menudo con menos pruebas. El estudio está ahora publicado en Science.
La pega: eran historias clínicas escritas, no pacientes en una consulta, y la comparación se hizo con generalistas, no con especialistas ni con el equipo completo de un hospital. Todos los autores trabajan para Microsoft. El siguiente paso importa más que la puntuación: un estudio en el Beth Israel Deaconess Medical Center de Boston en el que los pacientes hablan directamente con el sistema, comparado con el propio criterio de los médicos.
Nuestra opinión: los casos difíciles se alargan porque un médico solo tiene unas horas determinadas. Un panel así es más útil como la segunda opinión que tu médico nunca tuvo tiempo de pedir, con la decisión todavía en sus manos.
Una escuela gratuita para mejorar con la IA
Aprender algo nuevo suele implicar una factura y un horario que no es el tuyo.
OpenAI Academy no tiene ni lo uno ni lo otro. Los cursos son gratuitos y a tu ritmo para cualquiera con una cuenta de ChatGPT, y en septiembre OpenAI la amplió a cuatro itinerarios y 14 cursos: el trabajo diario, desarrollar con Codex y la API, liderar la adopción de la IA, y enseñar y estudiar. La mayoría de los cursos duran entre media hora y tres horas. Si apruebas el examen final con un 80% o más, recibes una insignia.
La pega: OpenAI dice con claridad que las insignias no son certificaciones. Demuestran que terminaste un curso, no que una empresa deba tratarte como cualificado.
Nuestra opinión: usar la IA a diario te enseña lo que funciona para las tareas que ya le encargas. Un curso te muestra las tareas que nunca se te ocurrió probar, que es donde suelen esconderse los mayores ahorros de tiempo. El curso de fundamentos de 70 minutos es una forma barata de averiguar qué tipo de usuario eres.