Quand vous payez pour un modèle d'IA précis via une appli ou un revendeur, vous n'avez aucun moyen de vérifier que votre réponse vient bien de ce modèle et non d'un moins cher glissé en douce pour économiser. FlashProve, d'Anthropic, publié comme prototype open source, est une première tentative de combler cet écart avec de la cryptographie, et c'est la première version de l'idée qui semble proche du praticable.
L'outil utilise un zkSNARK, un type de preuve cryptographique qui permet à un serveur de vous convaincre qu'un calcul a été fait correctement sans rien révéler d'autre, ici sans exposer les poids du modèle. Le fournisseur publie d'abord un engagement, une courte empreinte fixant un jeu de poids exact. Puis, pour chaque réponse, il génère une preuve que ces poids engagés, exécutés sur votre requête, ont produit exactement ces tokens. Quiconque dispose de l'engagement, de la requête et de la réponse peut le vérifier rapidement sur du matériel ordinaire, sans les poids et sans réexécuter le modèle. Cela compte pour la confiance du client, pour qu'une entreprise prouve qu'un modèle de pointe a vraiment relu son code, et pour que les régulateurs vérifient que seuls des modèles approuvés sont servis.
La vitesse est le titre. Sur Llama 4 Maverick, un modèle mixture-of-experts de 400 milliards de paramètres que nous testons, un seul GPU H100 produit des preuves à environ 110 tokens par seconde, avec une preuve d'environ 19 Mo par requête de 1 024 tokens, avec des poids quantifiés en 4 bits. La seule tentative open source antérieure tournait vers 0,02 token par seconde, c'est donc un bond de plusieurs milliers de fois. Anthropic livre le prouveur, un vérificateur rapide en C++ et un vérificateur distinct prouvé correct en Lean, le tout sous Apache 2.0, et le présente comme un progrès intermédiaire, pas comme un système fini.
Le coût est le hic évident. Générer la preuve prend environ 70 à 95 fois le temps GPU de simplement servir le modèle sur vLLM, donc lancer FlashProve à chaque requête multiplierait le coût d'inférence plusieurs fois. Cela seul le tient hors de la production courante pour l'instant.
Les autres limites méritent d'être dites clairement. La preuve se limite au décodage glouton et à un contexte de 1 024 tokens, ce qui exclut les longs contextes et les sorties échantillonnées sur lesquels reposent la plupart des produits. Et le vérificateur rapide en C++ ne porte pas les garanties formelles de celui vérifié en Lean, le chemin commode n'est donc pas encore le chemin prouvé. Anthropic a publié cela pour qu'on construise dessus, et c'est ainsi qu'il faut le lire : une preuve de concept crédible pour l'inférence vérifiable, pas quelque chose qu'on peut exiger aujourd'hui de son fournisseur de modèle.