AI 연구소들은 잘못 행동하는 모델을 멈추는 일에 대해서는 많이 말하지만, 정지 버튼이 실제로 어떻게 작동하는지는 잘 말하지 않습니다. OpenAI가 그중 하나를 공개했습니다. Control Room은 학습·평가 인프라 전반에서 어떤 연구 작업이든 모델 출력을 끊을 수 있는 중앙 서비스로, 결정부터 정지까지 최악의 경우 35초가 걸린다고 밝혔습니다.
설계는 간단히 설명됩니다. 에이전트 추론을 실행하는 모든 연구 작업은 Control Room에 등록해 작업 ID를 받고, 승인된 안전성 근거와 연결되어야 합니다. 작업이 모델에 토큰을 요청할 때는 그 ID를 추론 엔진, 즉 GPU에서 모델을 돌리는 소프트웨어에 넘깁니다. 엔진은 응답하기 전에 그 작업이 아직 실행 허가를 받았는지 Control Room에 묻습니다. 누군가 작업을 멈췄다면 요청은 거부되고, 작업 코드 자체는 계속 돌아가더라도 더 이상 출력이 생성되지 않습니다. 정지는 작업이 호출하는 모든 엔진의 모든 모델에 적용됩니다.
두 가지 선택이 눈에 띕니다. 첫째, OpenAI는 자주 바뀌고 버그가 있을 수 있는 연구자들의 작업 코드가 아니라 추론 계층에 일부러 확인 장치를 두었습니다. 연구 전반에서 추론 코드 경로는 몇 개뿐이라 한 곳의 통제 지점으로 모두를 다룰 수 있으며, 회사는 확인을 건너뛰는 불법 엔진이 없는지 자동으로 점검한다고도 밝혔습니다. 둘째, 시스템은 장애 시 닫히는 방식입니다. 오류나 고의적 비활성화, 조작 등으로 Control Room이 멈추면 복구될 때까지 모든 추론 요청이 거부됩니다. 공개 시점에 이는 모든 최첨단 연구 작업에 적용되어 있었고, 나머지에도 며칠 안에 적용될 예정이었습니다.
정지 신호는 사람이나 기계 모두 보낼 수 있습니다. OpenAI에 따르면 최첨단 강화 학습 실행은 모두 학습 중인 모델의 행동을 살피는 감시 모델의 감독을 받습니다. 최근의 DNS 관련 사고도 이렇게 포착됐고, 이제 감시 모델이 Control Room에 직접 작업 정지를 지시할 수 있습니다.
한계도 짚어 둘 만합니다. 35초 지연은 트래픽을 감당하려고 권한 확인 결과를 캐시하기 때문에 생기며, OpenAI는 이를 0으로 줄이는 작업을 하고 있다고 말합니다. 빠르게 움직이는 에이전트에게 30초는 짧은 시간이 아닙니다. Control Room은 연구에만 적용되며, 회사는 일반 사용자용 서비스 인프라에는 이미 별도의 차단 도구가 있다고 설명합니다. 그리고 모든 내용은 자체 보고로, 스위치가 몇 번 쓰였는지나 실제 압박 상황에서 어떻게 작동했는지에 대한 외부 감사는 없습니다.