Anthropic、応答が指定モデル由来か暗号技術で証明する「FlashProve」

何が起きたか

Anthropic は 2026 年 11 月 2 日(現地時間)、AI モデルの応答が「本当に指定したモデルによって生成されたか」を暗号技術で証明するシステム「FlashProve」を公開しました。スイス連邦工科大学ローザンヌ校(EPFL)やマサチューセッツ工科大学(MIT)の研究者と共同で開発した研究プロトタイプで、コードと技術文書は Apache 2.0 ライセンスで GitHub に公開されています。Anthropic は研究の途中経過として公開したものだとしており、完成した商用システムではありません。

なぜ重要か

API 経由で AI モデルを使う企業にとって、契約で指定したモデルが実際に使われているかを確認する手段はこれまでありませんでした。提供側がコスト削減のために性能の低いモデルへひそかに差し替えたり、推論サーバーの乗っ取りで応答が改ざんされたりしても、利用企業側には見分ける方法がなかったのです。FlashProve は「zkSNARK」(ゼロ知識簡潔非対話証明。計算の中身を明かさずに、正しく実行されたことだけを短い証明で示す暗号技術)を使います。モデル提供者があらかじめ重みの短い「指紋」(コミットメント)を公開し、応答ごとに、その重みが当該の出力を生成したことを示す証明ファイルを作る仕組みで、モデルの重み自体は開示されません。Anthropic は、第三者評価機関によるモデル同一性の確認や、承認済みモデルのみの使用を求める規制への準拠確認といった用途を挙げています。

背景

技術文書によると、Llama 4 Maverick(400B パラメータ)を H100 GPU で動かした場合、証明の生成速度は約 110 トークン/秒、1,024 トークン分の証明ファイルは約 19MB、検証には CPU で約 17 秒かかります。通常の推論に比べ 70〜95 倍の GPU 時間を要する計算コストです。現時点では整数演算と貪欲デコーディング(確率が最大のトークンを常に選ぶ生成方式)を前提にした研究用プロトタイプであり、対応するコンテキスト長は最大 1,024 トークン、MoE(混合専門家)型モデルのみを対象としています。改ざんを未然に防ぐ仕組みではなく、推論後に検証する「事後検知」であることも明記されています。

日本のビジネスへの示唆

• API 経由で AI を利用する企業にとって、提供されたモデルが契約通りかを技術的に確かめる手段の原型として注視したい。
• 現状は研究プロトタイプで、商用利用にそのまま使える段階ではない点には留意が必要です。今後の改良状況を追う価値があります。
• AI 導入のガバナンス・コンプライアンス文脈(規制対応、第三者評価)で、こうした検証技術への言及が増える可能性があり、情報収集を続けることが検討に値します。