Los evaluadores de seguridad externos suelen ver un modelo de IA al final, a través de una API y con prisas. OpenAI deja ahora que cuatro grupos trabajen dentro de la empresa, con un acceso cercano al de sus propios investigadores, durante el entrenamiento y el uso interno. La primera fase incluye a Apollo Research, METR, Transluce y Goodfire.
Cada uno tiene un encargo distinto. METR buscará comportamiento desalineado en la mayor ejecución de aprendizaje por refuerzo de OpenAI hasta la fecha, incluidos fallos que las pruebas y monitores actuales quizá no hayan detectado, y fijará sus propias prioridades dentro del alcance acordado. Apollo Research comprobará si los modelos podrían actuar en secreto contra las intenciones de sus desarrolladores y si las salvaguardas de OpenAI lo detectarían, evaluando cuatro afirmaciones en dos etapas. Transluce revisará la calidad y la cobertura de las evaluaciones de alineación posteriores al entrenamiento, con una segunda fase más amplia de unas ocho semanas prevista para principios de 2027. Goodfire integrará investigadores de interpretabilidad para examinar el interior de los modelos, sobre todo para los propios investigadores de OpenAI, aunque publicará lo que aprenda.
El acceso puede incluir modelos y checkpoints no publicados, datos de entrenamiento, registros de monitorización y personal. Quienes manejan material sensible trabajan en las oficinas con dispositivos de OpenAI. Cuando los pesos o la arquitectura son demasiado sensibles, OpenAI puede emparejar a los evaluadores con sus propios investigadores. El Comité de Seguridad y Protección del consejo de la OpenAI Foundation recibe los informes sin tachar, puede hablar en privado con los evaluadores y resuelve los desacuerdos que no resuelvan el Safety Advisory Group y la dirección de la empresa.
El contexto es el White House Accord on Super Intelligence, por el que los laboratorios aceptaron evaluaciones independientes de sus controles de seguridad. Anthropic dio a METR un acceso similar al de un empleado en octubre, y la revisión de 11 semanas de METR allí ya se ha publicado. La versión de OpenAI es más amplia por el número de grupos, y se apoya en el sistema de monitorización que describió el mes pasado.
La pega está en la letra pequeña. OpenAI se reserva el derecho a tachar información confidencial y a pedir retrasos en la divulgación. Las conversaciones con el personal son extraoficiales; los evaluadores solo pueden publicar declaraciones que OpenAI acepte certificar, o indicar que se negó. Las normas sobre conflictos de interés y periodos de espera aún se están redactando, y una revisión más amplia de los monitores por parte de METR depende de acordar el alcance. La independencia se juzgará por lo que digan de verdad los primeros informes y por cuánto aparezca tachado.