Los evaluadores externos de modelos de IA suelen ver lo que un laboratorio decide enseñarles: un modelo tras una API, un documento, una presentación. Anthropic ha ido más lejos con METR, la organización sin ánimo de lucro que evalúa modelos de frontera. Ha incorporado a seis empleados de METR con equipos de la empresa, espacio de oficina y acceso a herramientas y sistemas internos más o menos equivalente al de los propios equipos de evaluación de riesgos de Anthropic, y METR publicará sus conclusiones sobre niveles de riesgo, incidentes y prácticas.
Las reglas son lo que hace de esto algo más que un gesto. Salvo unas pocas categorías definidas, como datos de clientes, material protegido por el secreto profesional y detalles de la arquitectura de los modelos, se anima al personal de Anthropic a compartir información con el equipo de METR como lo haría con un compañero que trabaja en riesgos de alineación. Anthropic no puede vetar la publicación. Puede exigir que se suprima información de categorías predefinidas, como propiedad intelectual confidencial, y decide qué entra en ellas, pero METR conserva el derecho a decir públicamente cuánto acceso recibió. El equipo de METR trabaja con acuerdos de obligado cumplimiento y separado de otros investigadores de METR que colaboran con Anthropic en otros proyectos.
Anthropic explica el acuerdo con una analogía con la supervisión bancaria, en la que los reguladores sitúan inspectores dentro de los grandes bancos porque quienes están dentro conocen mejor sus riesgos. Llega tras la firma por Anthropic de la White House Accord on Super Intelligence, por la que las empresas se comprometieron a trabajar con auditores o evaluadores independientes. Anthropic describe tres niveles de acceso: investigaciones acotadas publicadas con su aprobación, acceso más amplio con publicación sin aprobación y el modelo integrado que ahora usa con METR. SecureBio revisa el capítulo sobre armas químicas y biológicas del informe de riesgos de agosto de Anthropic, Accenture y Faculty trabajan en una colaboración más amplia y hay conversaciones con otros, incluido Hugging Face.
Para los usuarios de Claude, el valor práctico es un segundo relato independiente de lo arriesgados que son los modelos de Anthropic, algo que importa más tras episodios como el comportamiento de Claude Mythos 5 en las pruebas del Gobierno británico. Anthropic fija además criterios para los evaluadores: experiencia, ninguna participación accionarial ni dependencia económica y acceso suficiente para juzgar bien el riesgo.
La prueba aún está por llegar. Todavía no se ha publicado ningún informe de METR con este acuerdo, y su credibilidad dependerá de si sus conclusiones llegan alguna vez a diferir de las de Anthropic y de con qué frecuencia se usen las supresiones. Seis personas son un equipo pequeño para una empresa del tamaño de Anthropic. Y el acuerdo es voluntario; obliga a Anthropic solo mientras Anthropic decida mantenerlo. Los demás laboratorios tienen ahora un listón claro que alcanzar o explicar por qué no lo harán.