A maior parte das notícias de segurança sobre IA fala de encontrar bugs. O AlphaProof Code, do Google DeepMind, trata de provar a ausência deles, ao menos para propriedades específicas, num código que bilhões de pessoas usam. A DeepMind diz que seus agentes provaram propriedades de segurança essenciais do código compilado por trás do protocolo do Signal, que também sustenta a criptografia do WhatsApp, do Messenger e do Google Messages. Ela chama isso de a primeira vez que a implementação de um protocolo assim é verificada formalmente por qualquer método.
O método de trabalho importa tanto quanto o resultado. Um agente redator de especificações trabalhou com os pesquisadores para transformar objetivos de segurança da literatura em Lean, agentes revisores criticaram os rascunhos e pessoas aprovaram cada especificação. Depois, agentes provadores rodando no Gemini 4 Carbon escreveram as provas. Eles sinalizaram cerca de um por cento do código para uma segunda olhada humana, e o kernel do Lean conferiu todo o resto. Segundo o artigo que acompanha o anúncio, uma equipe de cinco pessoas fez o trabalho em quatro semanas, cada uma com agentes rodando sem parar na própria máquina, sobre a versão 0.105.4 da libsignal.
O teste que deve convencer os céticos é o dos bugs. A equipe recolocou dois bugs reais, já corrigidos, numa cópia isolada do código. Nos dois casos, o sistema produziu uma prova verificada por máquina de que a versão com o bug era insegura. Um deles fazia a libsignal guardar o estado de uma sessão nova, incluindo uma chave secreta, depois de uma mensagem que só deveria ser decifrada numa sessão anterior. O diretor de tecnologia do Signal, Ehren Kret, disse que verificações anteriores cobriam partes menores do código e que traduzir código em produção em teoremas válidos do Lean é um grande avanço.
Para desenvolvedores, o recado mais amplo é que a prova formal está ficando acessível. O artigo compara com o seL4 e o CompCert, verificados com anos de trabalho de especialistas em código escrito para isso. Ferramentas como o Lean LSP MCP, que avaliamos, já deixam um agente de programação trabalhar contra o verificador do Lean, e a DeepMind está publicando seus próprios artefatos de verificação.
Os limites estão explicados. O escopo verificado é o código de sessões um a um, não todo o Signal. As garantias simbólicas pressupõem criptografia perfeita, e os resultados confiam no kernel do Lean e nos contratos de algumas rotinas que o código chama. A própria DeepMind diz que escalar o método exige mais pesquisa. E uma prova só é tão forte quanto a especificação que ela prova, por isso as especificações aprovadas por pessoas são a parte que mais merece revisão externa.