A maior parte das notícias sobre IA e segurança trata de encontrar bugs. O Frontier Red Team da Anthropic publicou uma pesquisa sobre outra defesa: usar o Claude para achar código que atacantes conseguem alcançar, mas que ninguém precisa que alcancem, e colocá-lo atrás de uma barreira. A vantagem é que corrigir um bug não diz nada sobre os que restam, enquanto reduzir o que um estranho pode tocar diminui de uma vez o risco de todas as falhas desconhecidas, incluindo as que talvez já estejam sendo exploradas em silêncio.
A equipe rodou o Claude em 25 projetos de código aberto em C, C++, Java, PHP e Python, mais de cinco milhões de linhas no total, atrás de três padrões: código alcançável na configuração padrão que nenhuma função padrão usa, pares de configurações inofensivas sozinhas mas perigosas juntas, e código complexo e sensível que roda antes da autenticação ou antes de o usuário agir. O Claude montou um inventário de mais de 17.000 opções de configuração, 3.842 delas relevantes para segurança, e encontrou 493 problemas. Todos os onze projetos feitos para atender só usuários autenticados tinham código alcançável antes do login. O achado mais chamativo foram 162 combinações arriscadas de configurações aceitas sem erro, aviso ou documentação; em 94 delas, um controle de segurança era desligado em silêncio. Um exemplo: exigir certificados de cliente, combinado com uma opção que deveria só adiar essa verificação, na prática a desligava, e um servidor configurado para aceitar só clientes confiáveis aceitava qualquer um.
O caso principal é o OpenSSH, um dos códigos em C mais auditados do mundo. Na versão 10.4, o Claude encontrou cerca de 4.500 linhas de código experimental novo para o ML-DSA-44, um esquema de assinatura pós-quântico, que um cliente não autenticado conseguia alcançar na configuração padrão mesmo sem o algoritmo estar ativado. Depois, apontou duas brechas na correção parcial da 10.5. Os mantenedores lançaram as mudanças completas na 10.6, removendo cerca de um quinto do código alcançável antes da autenticação.
Para equipes de segurança, é um uso de IA mais duradouro do que mais uma rodada de caça a bugs, e combina com o trabalho de superfície de ataque em torno do qual ferramentas como o Claude Security são construídas. A Anthropic empacotou o método como uma skill do Claude em três passadas, que está incorporando ao seu scanner de código aberto.
Os limites são ditos com clareza. Nenhum dos 493 problemas era explorável sozinho; eles ampliam a exposição, não abrem uma porta. Colocar barreiras em código alcançável por padrão pode quebrar o fluxo de trabalho de alguém, então cada mudança precisa do julgamento de um mantenedor, como aconteceu com as correções do OpenSSH. E são resultados da própria Anthropic em projetos que ela escolheu.