Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Notícias e pesquisa de IA

Notícias ·

OpenAI assina acordo de pesquisa em segurança de IA com a polonesa NASK

A OpenAI e a NASK, instituto polonês cujo AI Safety Research Center funciona como Instituto de Segurança de IA da Polônia, vão colaborar na avaliação de modelos avançados, na busca de vulnerabilidades e no reforço de salvaguardas. O acordo amplia o acesso que o CERT Polska, parte da NASK, ganhou em julho aos modelos de cibersegurança da OpenAI pelo Daybreak. A OpenAI já trabalha com o CAISSI dos EUA e o AISI do Reino Unido.

A OpenAI assinou um acordo com o NASK, o Instituto Nacional de Pesquisa da Polônia, para explorar trabalhos conjuntos em segurança de IA, cibersegurança e pesquisa técnica. O AI Safety Research Center do NASK atua como Instituto de Segurança de IA da Polônia, então o acordo acrescenta mais um órgão nacional à lista de avaliadores públicos com que a OpenAI trabalha, ao lado do Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), dos Estados Unidos, e do UK AI Security Institute.

Os objetivos declarados são amplos: encontrar formas de avaliar sistemas cada vez mais capazes, identificar vulnerabilidades e reforçar proteções. A parte mais concreta é o que veio antes. Em julho, o CERT Polska, equipe nacional de resposta a incidentes de computação que fica dentro do NASK, ganhou acesso aos modelos da OpenAI com capacidades cibernéticas por meio do programa Daybreak. Segundo a OpenAI, a equipe os usou para ajudar a encontrar seis vulnerabilidades no MikroTik RouterOS, o software de uma família de roteadores muito usada, incluindo falhas que podiam ser encadeadas para assumir o controle dos aparelhos sem login. A MikroTik lançou correções, e o CERT Polska confirmou que elas bloquearam os ataques observados.

A OpenAI apresenta o acordo como parte de um esforço por padrões técnicos internacionais para avaliar capacidades, testar proteções e relatar incidentes, construídos com ajuda dos institutos nacionais de segurança. Isso combina com um padrão da nossa cobertura recente: a Anthropic dando à METR acesso profundo a seus modelos, os testes do instituto britânico com o Claude Mythos 5 e as próprias propostas da OpenAI para ciberdefesa. Os laboratórios querem cada vez mais órgãos públicos dentro do processo de avaliação, em parte porque os governos estão pedindo.

O anúncio traz poucos detalhes. Não diz quais modelos o NASK poderá testar, com que antecedência vai vê-los, se poderá publicar o que encontrar nem como divergências seriam resolvidas. É descrito como um acordo para explorar uma colaboração, não como um programa com entregas definidas. O trabalho no RouterOS mostra que a parte cibernética pode gerar correções reais; se a pesquisa em segurança vai produzir evidências públicas, e não apenas garantias privadas, é o que vale acompanhar.

Nossa opinião: Acordos com institutos nacionais de segurança estão virando rotina, e este traz poucos detalhes sobre acesso a modelos ou regras de publicação. O valor dele depende de a NASK poder publicar o que encontrar.

Fonte: OpenAI

Mais matérias