Two Minute Papers, la chaîne YouTube qui explique des articles de recherche au grand public, s'est intéressée à AlphaProof Code de DeepMind, et l'article sous-jacent mérite cette attention. L'affirmation principale est que des agents d'IA ont prouvé des propriétés de sécurité clés du protocole de Signal, non sur un modèle simplifié, mais sur le code machine qui tourne réellement sur les téléphones. Pour quiconque compte sur Signal, WhatsApp ou Google Messages, c'est à ce niveau que se cachent souvent les vrais bogues.
L'article est plus précis que sa couverture. La cible était libsignal, l'implémentation de référence, écrite en Rust et compilée avec le compilateur standard en code machine AArch64, chargé dans Lean avec un modèle formel du processeur. Les agents ont produit environ 6,5 millions de lignes de preuve vérifiée par machine, reposant sur environ 26 000 lignes de spécification de confiance et de sémantique du processeur. Les preuves couvrent la poignée de main post-quantique PQXDH et le Triple Ratchet, et établissent la confidentialité persistante, l'authentification, la sécurité après compromission et le secret de la poignée de main. Le blog de DeepMind indique que le travail a duré quatre semaines, des humains relisant chaque spécification et environ 1% du code signalé par les agents.
C'est la conception qui rend l'affirmation crédible. Les agents prouveurs sont traités comme non fiables. Un agent gardien n'accepte une preuve que si le noyau de Lean la vérifie et qu'un comparateur confirme qu'elle prouve exactement une copie réservée de la spécification approuvée, si bien qu'un agent ne peut pas affaiblir l'objectif en douce. Pour comparaison, l'article rappelle que la vérification du micronoyau seL4 a demandé vingt années-personnes et celle du compilateur CompCert six, tous deux écrits en vue de la vérification.
Le même schéma gagne les outils courants des développeurs. Notre évaluation de Lean LSP MCP porte sur un serveur qui donne à un agent l'état de la preuve et les erreurs de Lean pour qu'il écrive des preuves acceptées par le vérificateur, et les agents utilisés ici tournaient sur Gemini 4 Carbon. La leçon, pour qui emploie l'IA sur du code important, est de placer entre le modèle et le résultat un vérificateur avec lequel on ne négocie pas.
Les limites figurent dans l'article. Les résultats font confiance au noyau de Lean, à la sécurité des primitives cryptographiques sous-jacentes et au comportement de certaines routines appelées par le code. Une preuve ne couvre que ce que dit la spécification, donc une faille dans ces 26 000 lignes de confiance serait une faille dans la garantie. Les artefacts sont ouverts à l'examen, mais cet examen indépendant n'a pas encore eu lieu.