Anthropicは2026年11月2日、AIの回答をどのモデルが作ったかを確かめるための試作「FlashProve」を公開しました。モデルの内部を構成する数値を開示せず、あらかじめ示したモデルと、回答から選んだ部分の計算が一致するかを確かめる研究です。TechCrunchは11月3日にこの研究を報道しました。Anthropicの研究公開と報道の日付は別です。
同じ画面から複数のモデルを使えるサービスを契約したとき、画面に出たモデル名だけで、実際の回答をどのモデルが作ったかを確かめるのは難しいものです。今回の研究は、この差を埋める仕組みを試しています。島田市の小規模事業者なら、サービスが別のモデルへ切り替わる場面と、その記録をどこまで確認できるかを考えるきっかけになります。
モデル名の表示に加えて、回答を作った計算を確かめます
モデルは、入力された文などをもとに出力を計算する仕組みです。「重み」と呼ばれる多数の数値が、その計算を左右します。同じ呼び名のモデルにも、更新された版や、数値を少ない桁で扱うよう調整した版があります。今回の研究で照合する相手は、画面に表示された商品名ではなく、事前に特定された重みと計算の条件です。
仕組みを三つに分けると、提供側はまず「この重みを使う」という約束に対応する識別情報を出します。次に、対象の計算について暗号技術を使った証明を作ります。受け取る側は検証用の仕組みを使って、その証明が事前の約束と整合するかを確かめます。公開された方式は、検証側にモデルの重みを知らせずにこの照合を行う設計です。モデルの構造まで隠す設計ではありません。識別情報がどの版に対応するのかは、別に確認が必要です。
たとえば架空の例として、会社で使う仲介サービスが「モデルA」を表示したまま、混雑時だけモデルBに振り替えるとします。表示名だけを控えても、個々の回答で何が起きたかは判定できません。もし将来そのサービスが証明を提供し、確認側がモデルAに対応する事前の識別情報と対象の回答を結び付けて検証できれば、表示とは別の確認材料になります。事前の識別情報が別の版に対応していれば、証明が通っても契約した版の確認にはなりません。
公開されたのは研究用のコードと報告です
公式発表には実行可能なコードと技術報告などが含まれます。実験では、Llama 4 Maverickの4ビット版を使い、H100という計算用GPUを1台使った条件などを示しています。生成後の文から、トークンという計算上の小さな単位を選んで、その計算の証明を後からまとめて作る方式です。公開された重みの整数版を使い、各位置で最も高い点数の候補を選ぶ方式が対象です。小数を扱う別実装や、確率に基づいて候補を選ぶ通常の応答では、同じ名前のモデルでも結果が一致しない場合があります。証明が通ったときも、文全体を調べたかは対象を見て判断します。証明に使う時間やデータ量には追加の負担があり、技術報告の測定条件は一般のチャットの速さを示すものではありません。また、数学的に検査した方式と、高速に動く実装、論文の記述がすべて一致する保証はないと、Anthropicは明記しています。研究の公開を、Claudeの通常画面で証明が表示される機能や、日本向けの提供開始として扱える情報は確認できません。
証明が扱うのは、特定の計算が事前に示された重みなどの条件と整合したかという問いです。回答が事実と合うか、社内資料の最新版を使ったか、顧客に伝えてよい内容かは別途確認します。利用サービスが将来この種の証明を出す場合でも、回答のどの範囲が証明の対象か、いつ検証できるかを聞きます。
今の運用で確かめるのは、切替条件と記録の残り方です
ここからはLIFESEEDSの業務への当てはめです。例えば架空の小売店が、同じ仲介サービスで商品案内の下書きを作る場合、担当者が見るべきなのは、契約のモデル名と別のモデルへ切り替わる場合の条件です。通常の画面操作しか使わないのであれば、まず利用規約や管理画面でモデル名・版・選択方法を確認します。別のモデルへ切り替わったかは、画面表示、管理者の履歴、サービス側への問い合わせのどこで確認できるかを分けます。取得できない記録は「確認不可」と控えます。特定の版で処理することが契約・品質確認の条件なら、確認できる経路が用意されるまでその用途での使用を保留します。社内向けの下書きで版の固定を求めないなら、モデルを固定できると決めつけず、原資料との照合を続けます。
社内ツールや委託先を介して複数のモデルを使うなら、「この回答を作ったモデルについて、サービス側の記録を後から確認できますか」「混雑時やエラー時に切り替える場合、出力と記録にどう表れますか」のように、回答単位の証跡を尋ねます。回答ID、記録の時刻、表示された版、切替が起きた場合の通知先をひも付けられると、結果が変わったときに調べる入口を残せます。管理画面や履歴に記録された内容は、暗号技術による証明と区別して扱います。
機密を含まない小さな試行で、管理者がモデルを切り替えられる場合は、二つの設定で同じ架空の質問を実行し、モデルの記録がそれぞれ残るかを確認します。出力の文章を読み比べてもモデルの出所は判定できません。商品案内に使うなら、注意事項と販売条件は承認済みの社内資料で人が照合します。現行のサービスで必要な記録が取れ、回答の照合が機能しているなら、その運用を続けられます。コード公開に興味があり検証環境を持つ開発担当者なら、公式資料をもとに実験条件と費用を別に検討できます。本記事では試作コードの実行やサービスの切替操作は行っていません。
LIFESEEDSのAI活用・業務効率化支援では、業務でAIを使う範囲の整理もご相談いただけます。確認したい運用がある方はお問い合わせからお知らせください。
コメント