アプリや再販業者を通じて特定のAIモデルに料金を払うとき、その答えが本当にそのモデルから来たのか、それとも費用を抑えるために黙って差し替えられた安いモデルから来たのかを確かめる手立てはありません。オープンソースのプロトタイプとして公開されたAnthropicのFlashProveは、その隙間を暗号で埋めようとする初期の試みで、実用に近づいて見える最初の版です。
このツールはzkSNARKを使います。これは、計算が正しく行われたことをサーバーがあなたに納得させつつ、ほかは何も明かさない種類の暗号証明で、ここではモデルの重みを明かしません。提供者はまずコミットメント、すなわち一つの正確な重みを特定する短い指紋を公開します。続いて応答ごとに、そのコミットされた重みをあなたのプロンプトに適用すると、まさにそれらのトークンが生じる、という証明を生成します。コミットメント、プロンプト、応答を持つ人は誰でも、重みなしに、モデルを再実行せずに、普通のハードウェアで素早く検証できます。これは消費者の信頼にとって、フロンティアモデルが本当に自社のコードを点検したと企業が示すために、そして承認されたモデルだけが提供されていると規制当局が確かめるために重要です。
目玉は速度です。当サイトでレビューしている4000億パラメータのmixture-of-expertsモデルLlama 4 Maverickで、1台のH100 GPUが毎秒約110トークンの速さで証明を生成し、証明のサイズは1,024トークンの要求あたり約19 MB、重みは4ビットに量子化されています。これまでの唯一のオープンソースの試みは毎秒約0.02トークンだったので、これは数千倍の跳躍です。Anthropicは証明器、高速なC++の検証器、そしてLeanで正しさを証明した別の検証器を、いずれもApache 2.0で提供し、完成した研究ではなく途中経過だとしています。
費用が明らかな注意点です。証明の生成には、vLLMでモデルをただ提供する場合のGPU時間のおよそ70〜95倍かかるため、全ての要求でFlashProveを走らせれば推論費用は何倍にも膨らみます。それだけでも、今のところ日常的な本番運用からは外れます。
ほかの限界も率直に述べる価値があります。証明は貪欲なデコードと1,024トークンの文脈に限られ、ほとんどの製品が頼る長い文脈やサンプリングされた出力は対象外です。そして高速なC++の検証器は、Leanで検査された検証器が持つ形式的な保証を備えていないため、便利な経路はまだ証明された経路ではありません。Anthropicはこれを土台にしてもらうために公開しており、そう読むのが正しいでしょう。検証可能な推論の信頼できる概念実証であって、今日あなたがモデル提供者に要求できるものではありません。