OpenAI가 폴란드 국립연구소 NASK와 AI 안전, 보안, 기술 연구 분야의 협력을 모색하는 협약을 맺었습니다. NASK의 AI Safety Research Center는 폴란드의 AI 안전 연구소 역 할을 하므로, 이번 협약으로 OpenAI가 함께 일하는 공공 평가 기관 목록에 미국의 Center for Advancing Standards and Innovation for Super Intelligence(CAISSI), UK AI Security Institute에 이어 또 하나의 국가 기관이 더해집니다.
밝힌 목표는 넓습니다. 점점 더 유능해지는 시스템을 평가하는 방법을 찾고, 취약점을 파악하고, 안전장치를 강화하는 것입니다. 더 구체적인 것은 그 이전의 일입니다. 7월에 NASK 안에서 활동하는 국가 컴퓨터 비상 대응팀 CERT Polska가 Daybreak 프로그램을 통해 OpenAI의 사이버 역량 모델을 쓸 수 있게 됐습니다. OpenAI에 따르면 이 팀은 이를 이용해 널리 쓰이는 라우터 제품군의 소프트웨어인 MikroTik RouterOS에서 취약점 6개를 찾는 데 도움을 받았고, 여기에는 엮으면 로그인 없이 기기를 장악할 수 있는 결함도 있었습니다. MikroTik은 수정판을 내놓았고, CERT Polska는 그것이 관찰한 공격을 막았다고 확인했습니다.
OpenAI는 이번 협약을 각국 안전 연구소의 도움으로 역량 평가, 안전장치 시험, 사고 보고에 관한 국제 기술 표준을 만들려는 노력의 일부로 소개합니다. 이는 저희가 최근 다룬 흐름과 맞아떨어집니다. Anthropic이 METR에 모델 접근권을 깊이 열어 준 일, 영국 연구소의 Claude Mythos 5 시험, OpenAI 자체의 사이버 방어 제안입니다. 연구소들은 평가 과정에 공공 기관을 점점 더 끌어들이려 하는데, 정부가 그것을 요구한다는 점도 한 이유입니다.
발표에는 세부 내용이 부족합니다. NASK가 어떤 모델을 시험할 수 있는지, 얼마나 일찍 볼 수 있는지, 결과를 공개할 수 있는지, 의견이 갈리면 어떻게 할지에 대한 말이 없습니다. 정해진 결과물이 있는 프로그램이 아니라 협력을 모색하는 협약이라고 되어 있습니다. RouterOS 사례는 사이버 분야에서 실제 수정으로 이어질 수 있음을 보여 줍니다. 지켜볼 점은 안전 연구가 비공개 안심이 아니라 공개된 증거를 내놓느냐입니다.