Wenn du über eine App oder einen Wiederverkäufer für ein bestimmtes KI-Modell zahlst, kannst du nicht prüfen, ob deine Antwort wirklich von diesem Modell kam und nicht von einem billigeren, das still zum Sparen eingewechselt wurde. Anthropics FlashProve, als Open-Source-Prototyp veröffentlicht, ist ein früher Versuch, diese Lücke mit Kryptografie zu schließen, und es ist die erste Fassung der Idee, die praxisnah wirkt.
Das Werkzeug nutzt einen zkSNARK, eine Art kryptografischen Beweis, mit dem ein Server dich überzeugen kann, dass eine Berechnung korrekt ausgeführt wurde, ohne sonst etwas preiszugeben, hier ohne die Modellgewichte offenzulegen. Der Anbieter veröffentlicht zuerst ein Commitment, einen kurzen Fingerabdruck, der eine genaue Gewichtswahl festlegt. Dann erzeugt er für jede Antwort einen Beweis, dass diese festgelegten Gewichte, auf deine Eingabe angewandt, genau diese Tokens hervorbrachten. Jeder mit dem Commitment, der Eingabe und der Antwort kann es schnell auf gewöhnlicher Hardware prüfen, ohne die Gewichte und ohne das Modell erneut laufen zu lassen. Das zählt für das Vertrauen der Kunden, dafür, dass eine Firma belegt, dass ein Spitzenmodell wirklich ihren Code geprüft hat, und dafür, dass Regulierer prüfen, dass nur genehmigte Modelle bereitgestellt werden.
Das Tempo ist die Schlagzeile. Bei Llama 4 Maverick, einem Mixture-of-Experts-Modell mit 400 Milliarden Parametern, das wir rezensieren, erzeugt eine einzelne H100-GPU Beweise mit etwa 110 Tokens pro Sekunde, bei einem Beweis von rund 19 MB je 1.024-Token-Anfrage, mit auf 4 Bit quantisierten Gewichten. Der einzige frühere Open-Source-Versuch lief bei etwa 0,02 Tokens pro Sekunde, das ist also ein Sprung um das Mehrtausendfache. Anthropic liefert den Prover, einen schnellen C++-Verifier und einen separaten, in Lean als korrekt bewiesenen Verifier, alles unter Apache 2.0, und bezeichnet es als Zwischenstand, nicht als fertiges System.
Die Kosten sind der offensichtliche Haken. Den Beweis zu erzeugen braucht etwa 70- bis 95-mal die GPU-Zeit, das Modell einfach auf vLLM bereitzustellen, FlashProve bei jeder Anfrage zu nutzen würde die Inferenzkosten also um ein Vielfaches erhöhen. Schon das hält es vorerst aus dem Routinebetrieb heraus.
Die übrigen Grenzen sollte man klar benennen. Das Beweisen ist auf Greedy-Decoding und einen Kontext von 1.024 Tokens beschränkt, was die langen Kontexte und die gesampelten Ausgaben ausschließt, auf die sich die meisten Produkte stützen. Und der schnelle C++-Verifier trägt nicht die formalen Garantien des Lean-geprüften, der bequeme Weg ist also noch nicht der bewiesene. Anthropic hat dies veröffentlicht, damit darauf aufgebaut wird, und genau so sollte man es lesen: ein glaubwürdiger Machbarkeitsnachweis für verifizierbare Inferenz, nicht etwas, das man heute von seinem Modellanbieter verlangen kann.