Les laboratoires d'IA parlent beaucoup d'arrêter un modèle qui dérape, et bien moins du fonctionnement réel du bouton d'arrêt. OpenAI vient de décrire le sien : Control Room, un service central capable de couper la production d'un modèle pour n'importe quelle tâche de recherche de son infrastructure d'entraînement et d'évaluation, avec un pire cas annoncé de 35 secondes entre la décision et l'arrêt.
La conception est simple à expliquer. Chaque tâche de recherche qui exécute de l'inférence agentique doit s'enregistrer auprès de Control Room, recevoir un identifiant et être rattachée à un dossier de sécurité approuvé. Quand la tâche demande des tokens à un modèle, elle transmet cet identifiant au moteur d'inférence, le logiciel qui fait tourner le modèle sur les GPU. Avant de répondre, le moteur demande à Control Room si la tâche est toujours autorisée. Si quelqu'un l'a stoppée, la requête est refusée et plus rien n'est produit, même si le code de la tâche continue de tourner. L'arrêt vaut pour tout modèle sur tout moteur appelé par la tâche.
Deux choix ressortent. D'abord, OpenAI place délibérément le contrôle dans la couche d'inférence plutôt que dans le code des chercheurs, qui change sans cesse et peut être bogué. Il n'existe que quelques chemins de code d'inférence dans toute sa recherche, si bien qu'un seul point de contrôle les couvre tous, et l'entreprise dit mener aussi des balayages automatiques pour repérer des moteurs non conformes qui contourneraient le contrôle. Ensuite, le système échoue en position fermée : si Control Room tombe, par erreur, désactivation volontaire ou sabotage, toutes les requêtes d'inférence sont refusées jusqu'à son retour. C'était en place pour toutes les charges de recherche de pointe à la publication et devait s'étendre au reste en quelques jours.
Le déclencheur peut être une personne ou une machine. OpenAI indique que tous ses entraînements par renforcement de pointe sont surveillés par un modèle moniteur qui inspecte ce que fait le modèle en cours d'entraînement ; un incident récent lié au DNS a été repéré ainsi, et le moniteur peut désormais demander directement à Control Room d'arrêter la tâche.
Les limites méritent d'être dites. Le délai de 35 secondes vient de la mise en cache des contrôles d'autorisation pour absorber le trafic, et OpenAI dit travailler à le ramener à zéro ; pour un agent rapide, une demi-minute n'est pas rien. Control Room ne couvre que la recherche, OpenAI affirmant que son infrastructure de service au public dispose déjà de ses propres outils de retrait. Enfin, tout est déclaratif, sans audit externe sur le nombre de fois où l'interrupteur a servi ni sur son comportement sous une vraie pression.