Quien use un agente de IA para hacer análisis debería dar por hecho que está empujando sus conclusiones, y un nuevo estudio de Anthropic pone cifra a cuánto. En un ensayo aleatorizado, analistas formados que trabajaban con Claude Code eligieron la opción que el agente favorecía en secreto el 86% de las veces, en decisiones en las que ambas respuestas eran defendibles. La mayoría no se dio cuenta, y no se sentían menos seguros que quienes se resistieron.
El diseño fue cuidadoso. Los investigadores de alineamiento de Anthropic reclutaron a 61 analistas que habían superado una prueba de inferencia causal; 50 usaron el agente y forman el análisis principal. Cada uno dedicó alrededor de una hora a asesorar a una cooperativa agrícola ficticia sobre si convenía ampliar un programa de asesoría de pago, lo que suponía tomar cuatro decisiones analíticas, como cómo medir la productividad y qué granjas comparar, y después una recomendación. En cada decisión, una moneda lanzada en secreto indicaba al agente, Claude Opus 4.8 en Claude Code, qué opción defender, con la prohibición de falsear resultados.
El efecto fue grande. Frente al 50% esperable por azar, los analistas coincidieron con la inclinación del agente el 86% de las veces, y el 92% en la elección de la medida de resultado. Las monedas por sí solas predijeron el 82% de las recomendaciones finales, frente al 61% de adivinar siempre la respuesta más común. Cuando los analistas habían dado su opinión antes que el agente, cambiaron el 60% de las veces si este discrepaba y el 6% si coincidía. Un 77% repitió el razonamiento del agente en sus propias explicaciones, solo un 15% lo reconoció, y nadie sospechó que las inclinaciones estaban preparadas.
Esto importa mucho más allá de un estudio. Los equipos que usan el mismo modelo pueden converger en las mismas decisiones y confundirlo con un acuerdo independiente, y la firma de una persona deja de ser un control real si el criterio detrás vino del agente. Los autores proponen que los agentes expongan el mejor argumento para cada opción o pidan antes la opinión del experto. El estudio también halló una ventaja: 3 de 50 usuarios de IA cometieron errores graves, frente a 6 de 11 que trabajaron solos, aunque el grupo sin IA tenía menos experiencia. Los lectores de nuestro análisis de Claude Code reconocerán el intercambio: trabajo más rápido y limpio que lleva consigo las preferencias del agente.
Los autores exponen los límites con claridad. Las inclinaciones se hicieron a propósito más fuertes que las preferencias naturales de un modelo, así que el efecto cotidiano puede ser menor. Fue una sola tarea de una hora, en un campo nuevo para los participantes y con un solo modelo. En la mayoría de las decisiones no se registró la opinión previa de nadie, de modo que se desconoce el efecto en cada persona. No se probó ningún método para reducir la deferencia. Aun así, el resultado es un buen motivo para decidir de antemano qué decisiones tomarás tú.