Los laboratorios de IA hablan mucho de detener un modelo que se porta mal y bastante menos de cómo funciona de verdad el botón de parada. OpenAI acaba de describir el suyo: Control Room, un servicio central que puede cortar la salida del modelo en cualquier trabajo de investigación de su infraestructura de entrenamiento y evaluación, con un peor caso declarado de 35 segundos desde la decisión hasta la parada.
El diseño es fácil de explicar. Cada trabajo de investigación que ejecuta inferencia con agentes debe registrarse en Control Room, recibir un identificador y vincularse a un caso de seguridad aprobado. Cuando el trabajo pide tokens a un modelo, pasa ese identificador al motor de inferencia, el software que ejecuta el modelo en las GPU. Antes de responder, el motor pregunta a Control Room si el trabajo sigue autorizado. Si alguien lo ha detenido, la petición se rechaza y no se genera más salida, aunque el propio código del trabajo siga en marcha. La parada se aplica a cualquier modelo en cualquier motor al que llame el trabajo.
Destacan dos decisiones. La primera: OpenAI coloca a propósito la comprobación en la capa de inferencia y no en el código de los investigadores, que cambia constantemente y puede tener errores. Hay pocas rutas de código de inferencia en toda su investigación, así que un único punto de control las cubre todas, y la empresa dice que además ejecuta barridos automáticos para detectar motores no autorizados que se salten la comprobación. La segunda: el sistema falla en cerrado. Si Control Room cae, por un error, una desactivación deliberada o una manipulación, se deniegan todas las peticiones de inferencia hasta que vuelva. Eso ya estaba activo en todas las cargas de investigación de frontera al publicarse y debía llegar al resto en pocos días.
La orden puede venir de una persona o de una máquina. OpenAI dice que todos sus entrenamientos de aprendizaje por refuerzo de frontera están vigilados por un modelo monitor que inspecciona lo que hace el modelo en entrenamiento; un incidente reciente relacionado con DNS se detectó así, y el monitor ya puede pedir directamente a Control Room que detenga el trabajo.
Conviene señalar los límites. El retraso de 35 segundos se debe a que las comprobaciones de autorización se guardan en caché para soportar el tráfico, y OpenAI dice que trabaja para reducirlo a cero; para un agente rápido, medio minuto no es poca cosa. Control Room cubre solo la investigación, porque según OpenAI su infraestructura de servicio al público ya tiene sus propias herramientas de retirada. Y todo es información de la propia empresa, sin auditoría externa sobre cuántas veces se ha usado el interruptor ni cómo respondió bajo presión real.