Quando você paga por um modelo de IA específico por meio de um app ou revendedor, não tem como checar se a sua resposta veio mesmo daquele modelo e não de um mais barato trocado em silêncio para economizar. O FlashProve, da Anthropic, lançado como protótipo de código aberto, é uma primeira tentativa de fechar essa lacuna com criptografia, e é a primeira versão da ideia que parece perto do prático.
A ferramenta usa um zkSNARK, um tipo de prova criptográfica que permite a um servidor convencer você de que um cálculo foi feito corretamente sem revelar mais nada, aqui sem expor os pesos do modelo. O provedor publica primeiro um compromisso, uma impressão digital curta que fixa um conjunto exato de pesos. Depois, para cada resposta, gera uma prova de que aqueles pesos comprometidos, rodados sobre o seu prompt, produziram exatamente aqueles tokens. Qualquer um com o compromisso, o prompt e a resposta pode verificá-la rápido em hardware comum, sem os pesos e sem reexecutar o modelo. Isso importa para a confiança do consumidor, para uma empresa provar que um modelo de ponta realmente revisou o seu código, e para reguladores checarem que só modelos aprovados são servidos.
A velocidade é o destaque. No Llama 4 Maverick, um modelo mixture-of-experts de 400 bilhões de parâmetros que analisamos, uma única GPU H100 produz provas a cerca de 110 tokens por segundo, com uma prova de cerca de 19 MB por requisição de 1.024 tokens, usando pesos quantizados em 4 bits. A única tentativa de código aberto anterior rodava perto de 0,02 token por segundo, então é um salto de vários milhares de vezes. A Anthropic entrega o provador, um verificador rápido em C++ e um verificador separado provado correto em Lean, tudo sob Apache 2.0, e o apresenta como progresso intermediário, não como um sistema pronto.
O custo é o porém óbvio. Gerar a prova leva cerca de 70 a 95 vezes o tempo de GPU de apenas servir o modelo no vLLM, então rodar o FlashProve em toda requisição multiplicaria o custo de inferência várias vezes. Só isso já o mantém fora da produção rotineira por ora.
Os outros limites merecem ser ditos com clareza. A prova se restringe a decodificação gulosa e a um contexto de 1.024 tokens, o que exclui os contextos longos e as saídas amostradas em que a maioria dos produtos se apoia. E o verificador rápido em C++ não carrega as garantias formais do verificado em Lean, então o caminho conveniente ainda não é o caminho provado. A Anthropic publicou isso para ser construído em cima, e é assim que se deve ler: uma prova de conceito crível para a inferência verificável, não algo que você possa exigir do seu provedor de modelo hoje.