OpenAI a signé un accord avec NASK, l'institut national de recherche polonais, pour explorer des travaux communs sur la sûreté de l'IA, la cybersécurité et la recherche technique. L'AI Safety Research Center de NASK fait office d'institut polonais de sûreté de l'IA : l'accord ajoute donc un organisme national à la liste des évaluateurs publics avec lesquels travaille OpenAI, aux côtés du Center for Advancing Standards and Innovation for Super Intelligence (CAISSI) américain et du UK AI Security Institute.
Les objectifs affichés sont larges : trouver des moyens d'évaluer des systèmes de plus en plus capables, repérer des vulnérabilités et renforcer les protections. La partie la plus concrète est ce qui a précédé. En juillet, CERT Polska, l'équipe nationale de réponse aux incidents informatiques rattachée à NASK, a obtenu l'accès aux modèles d'OpenAI dotés de capacités cyber via le programme Daybreak. Selon OpenAI, l'équipe s'en est servie pour aider à découvrir six vulnérabilités dans MikroTik RouterOS, le logiciel d'une famille de routeurs très répandue, dont des failles qu'on pouvait enchaîner pour prendre le contrôle des appareils sans authentification. MikroTik a publié des correctifs, et CERT Polska a confirmé qu'ils bloquaient les attaques observées.
OpenAI présente l'accord comme un élément de sa campagne pour des normes techniques internationales d'évaluation des capacités, de test des protections et de signalement des incidents, élaborées avec les instituts nationaux de sûreté. Cela correspond à une tendance de notre couverture récente : Anthropic qui donne à METR un accès approfondi à ses modèles, les tests de Claude Mythos 5 par l'institut britannique, et les propositions d'OpenAI sur la cyberdéfense. Les laboratoires veulent de plus en plus d'organismes publics dans le processus d'évaluation, en partie parce que les gouvernements le demandent.
L'annonce reste pauvre en détails. Elle ne dit pas quels modèles NASK pourra tester, avec quelle avance il les verra, s'il pourra publier ses conclusions ni comment les désaccords seraient tranchés. Il s'agit d'un accord visant à explorer une collaboration, pas d'un programme assorti de livrables. Le travail sur RouterOS montre que le volet cyber peut produire de vrais correctifs ; reste à voir si la recherche en sûreté donnera des preuves publiques plutôt que des assurances privées.