OpenAI ha firmado un acuerdo con NASK, el Instituto Nacional de Investigación de Polonia, para explorar trabajos conjuntos en seguridad de la IA, ciberseguridad e investigación técnica. El AI Safety Research Center de NASK actúa como Instituto de Seguridad de la IA de Polonia, así que el acuerdo suma otro organismo nacional a la lista de evaluadores públicos con los que trabaja OpenAI, junto al Center for Advancing Standards and Innovation for Super Intelligence (CAISSI) de Estados Unidos y el UK AI Security Institute.
Los objetivos declarados son amplios: buscar formas de evaluar sistemas cada vez más capaces, detectar vulnerabilidades y reforzar salvaguardas. La parte más concreta es lo que vino antes. En julio, CERT Polska, el equipo nacional de respuesta a emergencias informáticas integrado en NASK, obtuvo acceso a los modelos de OpenAI con capacidades de ciberseguridad mediante el programa Daybreak. Según OpenAI, el equipo los usó para ayudar a encontrar seis vulnerabilidades en MikroTik RouterOS, el software de una familia de routers muy extendida, incluidos fallos que podían encadenarse para tomar el control de los equipos sin autenticarse. MikroTik publicó correcciones, y CERT Polska confirmó que frenaban los ataques que había observado.
OpenAI presenta el acuerdo como parte de un impulso a normas técnicas internacionales para evaluar capacidades, probar salvaguardas y comunicar incidentes, elaboradas con ayuda de los institutos nacionales de seguridad. Encaja con un patrón de nuestra cobertura reciente: Anthropic dando a METR acceso profundo a sus modelos, las pruebas del instituto británico a Claude Mythos 5 y las propias propuestas de OpenAI sobre ciberdefensa. Los laboratorios quieren cada vez más organismos públicos dentro del proceso de evaluación, en parte porque los gobiernos lo piden.
El anuncio aporta pocos detalles. No dice qué modelos podrá probar NASK, con cuánta antelación los verá, si podrá publicar sus hallazgos ni cómo se resolverían los desacuerdos. Se describe como un acuerdo para explorar una colaboración, no como un programa con resultados comprometidos. El trabajo sobre RouterOS demuestra que la parte de ciberseguridad puede producir correcciones reales; si la investigación en seguridad da pruebas públicas, y no solo garantías privadas, es lo que habrá que vigilar.