La plupart des nouvelles sur l'IA et la sécurité portent sur la découverte de failles. La Frontier Red Team d'Anthropic a publié des travaux sur une autre défense : utiliser Claude pour repérer du code qu'un attaquant peut atteindre alors que personne n'a besoin qu'il l'atteigne, et le placer derrière une barrière. L'intérêt est que corriger une faille ne dit rien de celles qui restent, alors que réduire ce qu'un inconnu peut toucher diminue d'un coup le risque lié à toutes les failles inconnues, y compris celles déjà exploitées discrètement.
L'équipe a passé Claude sur 25 projets open source en C, C++, Java, PHP et Python, plus de cinq millions de lignes au total, à la recherche de trois motifs : du code accessible dans la configuration par défaut mais utilisé par aucune fonction par défaut, des paires de réglages inoffensifs séparément mais dangereux ensemble, et du code complexe et sensible exécuté avant l'authentification ou avant toute action de l'utilisateur. Claude a dressé un inventaire de plus de 17 000 options de configuration, dont 3 842 touchant à la sécurité, et trouvé 493 problèmes. Les onze projets destinés aux seuls utilisateurs authentifiés avaient tous du code accessible avant connexion. La découverte la plus frappante concerne 162 combinaisons de réglages risquées acceptées sans erreur, avertissement ni documentation ; dans 94 d'entre elles, un contrôle de sécurité était désactivé en silence. Exemple : exiger des certificats clients, combiné à une option censée seulement retarder cette vérification, la supprimait en réalité, si bien qu'un serveur réglé pour n'accepter que des clients de confiance acceptait n'importe qui.
Le cas phare est OpenSSH, l'un des codes C les plus audités au monde. Dans la version 10.4, Claude a trouvé environ 4 500 lignes de nouveau code expérimental pour ML-DSA-44, un schéma de signature post-quantique, accessibles à un client non authentifié dans la configuration par défaut alors même que l'algorithme n'était pas activé. Il a ensuite relevé deux lacunes dans la correction partielle de la 10.5. Les mainteneurs ont livré les changements complets dans la 10.6, supprimant environ un cinquième du code accessible avant authentification.
Pour les équipes de sécurité, c'est un usage de l'IA plus durable qu'une nouvelle chasse aux bogues, et il rejoint le travail sur la surface d'attaque autour duquel sont conçus des outils comme Claude Security. Anthropic a empaqueté la méthode sous forme de skill Claude en trois passes, qu'il intègre à son scanner open source.
Les limites sont clairement énoncées. Aucun des 493 problèmes n'était exploitable seul ; ils élargissent l'exposition sans ouvrir de porte. Mettre derrière une barrière du code accessible par défaut peut casser le fonctionnement de quelqu'un, et chaque changement demande donc le jugement d'un mainteneur, comme ce fut le cas pour OpenSSH. Enfin, ce sont les résultats d'Anthropic sur des projets qu'il a choisis.