La plupart des nouvelles de sécurité liées à l'IA portent sur la découverte de bogues. AlphaProof Code, de Google DeepMind, vise à prouver leur absence, du moins pour des propriétés précises, dans du code utilisé par des milliards de personnes. DeepMind affirme que ses agents ont prouvé des propriétés de sécurité clés du code compilé du protocole de Signal, qui sous-tend aussi le chiffrement de WhatsApp, Messenger et Google Messages. Il y voit la première vérification formelle, par quelque méthode que ce soit, de l'implémentation d'un tel protocole.
La méthode compte autant que le résultat. Un agent rédacteur de spécifications a travaillé avec les chercheurs pour traduire en Lean des objectifs de sécurité issus de la littérature, des agents relecteurs ont critiqué les brouillons, et des humains ont approuvé chaque spécification. Des agents prouveurs fonctionnant sur Gemini 4 Carbon ont ensuite écrit les preuves. Ils ont signalé environ un pour cent du code pour un second regard humain, le noyau de Lean vérifiant tout le reste. Selon l'article qui accompagne l'annonce, une équipe de cinq personnes a fait le travail en quatre semaines, chacune faisant tourner des agents sans interruption sur sa machine, sur libsignal en version 0.105.4.
Le test qui devrait convaincre les sceptiques est celui des bogues. L'équipe a réintroduit deux vrais bogues, déjà corrigés, dans une copie isolée du code. Dans les deux cas, le système a produit une preuve vérifiée par machine que la version boguée n'était pas sûre. L'un faisait que libsignal enregistrait l'état d'une nouvelle session, dont une clé secrète, après un message qui n'aurait dû se déchiffrer que sous une session plus ancienne. Le directeur technique de Signal, Ehren Kret, a déclaré que les vérifications antérieures couvraient de plus petites parties du code et que traduire du code en production en théorèmes Lean valides constituait une avancée majeure.
Pour les développeurs, le message plus large est que la preuve formelle devient abordable. L'article compare avec seL4 et CompCert, vérifiés au prix d'années de travail d'experts sur du code écrit à cette fin. Des outils comme Lean LSP MCP, que nous évaluons, permettent déjà à un agent de programmation de travailler face au vérificateur de Lean, et DeepMind publie ses propres artefacts de vérification.
Les limites sont exposées. Le périmètre vérifié est le code des sessions en tête-à-tête, pas l'ensemble de Signal. Les garanties symboliques supposent une cryptographie parfaite, et les résultats font confiance au noyau de Lean et aux contrats de certaines routines appelées par le code. DeepMind reconnaît que passer à l'échelle exige encore des recherches. Et une preuve ne vaut que par la spécification qu'elle établit, raison pour laquelle les spécifications approuvées par des humains méritent avant tout un examen extérieur.