AnthropicがMETRに従業員並みのアクセスを付与、評価者は3段階制へ

Anthropicは2026年10月15日、非営利のAI評価団体METRのチームに、従業員に近いアクセスを与え始めたと発表しました。METRは自らのリスク評価の結果を公開し、Anthropicには公開を止める権限がありません。評価者へのアクセスは3段階で整備中で、METRはその最上位の第3段階に置かれています。

要点

• METRの6人が、Anthropicの機器・オフィス・社内ツールを使って働きます。アクセスの範囲は、Anthropic自身のリスク評価チームとほぼ同等です
• METRはAnthropicのリスク水準・インシデント・運用の分析を公開します。Anthropicは公開を拒否できず、狭く定めたカテゴリの情報についてだけ削除を求められます
• 評価者のアクセスは3段階で整備中です。METRは第3段階、SecureBioは第1段階に位置づけられています
• SecureBioは8月のRisk Reportのうち、化学・生物兵器の章を審査中です。AccentureとFacultyとは、評価とレッドチーミングを含む提携を進めています。Hugging Faceなど複数の組織とは初期の協議段階です
• 先月、Anthropicは第三者評価を強める方針を示しました。あわせて、外部の監査者や評価者と組むことを誓約するWhite House Accord on Super Intelligenceにも署名しています

評価者を社内に迎え入れ、公開の権利まで渡す運用が、具体的な人数と条件つきで示されました。

METRへのアクセスは、立場ごとにどう変わるか

Claudeを業務で使う企業にとって

今回の発表に、APIの仕様や利用規約、料金の変更は含まれていません。Claudeの使い方はそのままです。

変わるのは、導入判断のときに読める第三者の材料です。METRが分析を公開すれば、Anthropic自身が書くRisk Reportとは別の目線で、リスクの水準を読み比べられます。公開の時期や形式は明らかにされていません。

もう一点、顧客に関するデータは、社員が評価者と共有する対象から外す例外カテゴリの一つに挙がっています。組み込み型の評価は、他の組織がAnthropicや顧客・パートナーの情報を得る手段ではない、とも明言されています。

評価・研究に関わる組織にとって

Anthropicは評価者の受け入れを段階制で整えています。第1段階は範囲を絞ったリスク調査で、提供する情報はAnthropicが決め、公開にはAnthropicの承認が要ります。

初期の提携では、機密情報を守れること、評価に必要な資源と専門性を備えていることを確かめるのが目的です。信頼が積み上がるにつれて、組み込み型の評価を増やしたいという立場です。SecureBioについては、審査が終わった後に、アクセスと公開権を広げた案件を検討するとしています。進級の期間や判断基準は、発表に記載がありません。

AIの安全性を追う読者にとって

Risk Reportは、Anthropicが自社モデルのリスクを論じる文書です。Responsible Scaling Policyの変遷で触れたとおり、定期的に更新されます。そこに外部の評価者が複数の角度から目を通す体制が、少しずつ整ってきました。

METRはこの1年、Anthropicと複数回、Risk Reportのレビューで協力してきました。SecureBioは前回のRisk Reportについて、試験的な審査を完了して公表済みです。今回の発表は、その協力関係を、社内に席を置く形まで広げたものです。

背景・文脈

すべては公開できないから、評価者に見せる

Anthropicは、安全性に関わる判断を公に説明する責任を負いたいと述べています。一方で、関連する情報をすべて公開することはできません。悪意のある者に使われるおそれがある情報や、計算資源・訓練に関する商業的に機微な情報があるためです。

そこで、情報を公開する代わりに、第三者の評価者に深く見せます。評価者は、根拠と、そこから導いた結論を公表します。狙いは、フロンティアAI企業の仕組みについて、評価者が理解している内容と、企業自身が理解している内容の差を縮めることです。

評価者に求める4つの条件

条件

フロンティアモデルの評価者に必要なもの

• 専門性

  フロンティアモデルの能力を評価する知見が要ります。評価がうまくいかなくなる仕組みの理解も含まれ、例としてalignment fakingが挙がっています。

• 独立性

  評価対象の企業の株式を持たないこと、財務面でも運営面でもその企業に依存していないことです。

• 十分なアクセス

  最新モデルだけでなく、訓練の経緯やセーフガードの仕組みも見える必要があります。

• 公表の自由

  モデルや運用についての所見と評価を、自由に公表できることです。

Anthropicは銀行監督との類比も挙げています。銀行は自らのリスクを外部より把握しているため、規制当局は大手銀行の内部に常駐の検査官を置きます。ただし、この例えは正確ではないと断っています。

「従業員並みのアクセス」の線引き

METRの6人には、会社の機器とオフィスが用意されます。Anthropicの社員には、アラインメントのリスクに取り組む同僚と同じように、情報を共有することが促されます。

例外は、狭く定めた少数のカテゴリです。顧客に関するデータ、弁護士との秘匿特権がある情報、モデルのアーキテクチャに関する情報が挙げられています。アーキテクチャの情報は、うっかり漏れる危険が高く、リスク評価との関連は通常低いという説明です。関連が高い場合は共有を試みるものの、社内での明示的な承認が要るとしています。

評価者は、他の企業とも仕事をする可能性があります。銀行の検査官と同じ事情で、意図しない漏えいには注意を払う、というのが発表の説明です。

取り決めは、小さなチームと強制力のある契約に限られます。METRの他の従業員は、そのチームの仕事から隔離されます。Anthropicと別件で研究している研究者も同様です。組み込み型の評価は、少数の適格な人が、Anthropicのセキュリティ基準のもとで内部を近くから見る仕組みです。

公開の権利はどこまで評価者にあるか

METRは、Anthropicのリスク水準・インシデント・運用についての分析を公開します。Anthropicは公開を拒否できません。上で挙げた例外のような、狭く定めたカテゴリの情報があれば、削除は求められます。

METRは、削除を公に語れます。削除が正当だったかどうかについて、削除された内容を明かさない範囲で意見を述べる自由も持っています。

3段階のアクセスと、現在の配置

Anthropicは評価者向けに3つの段階を整えている最中です。将来は、第3段階に複数の評価者を置き、それぞれが自分たちの分析を公開する形を目指しています。

SecureBioは第1段階で、8月のRisk Reportの化学・生物兵器の章を審査しています。AccentureとFacultyとは、モデルの評価とレッドチーミング、アラインメント評価、セーフガードの検証、双方の組織で評価の能力を育てる取り組みを含む提携を目指しています。この提携がどの段階にあたるかは示されていません。Accentureとの提携はAccentureの組み込み型評価の記事で扱っています。

公開の拒否権を手放した設計が、仕組み全体の信頼性を左右する

銀行検査の比喩は、評価者を内部に置く動機を説明しますが、この仕組みの強さは別のところに出ています。公開権です。

Anthropicは公開を止められず、削除を求められるのは狭いカテゴリに限られます。その削除についてMETRが妥当性を公に論じられるため、伏せたという事実そのものが外から見えます。伏せる範囲が広すぎれば、それ自体が評価の対象になる設計です。

一方で、成果が外から検証できるのは、METRが実際に分析を公開してからです。第3段階として挙がっているのはMETRだけで、第2段階の評価者は発表で名指しされていません。複数の評価者がそれぞれ自分の分析を公開する、という目標の姿は、まだ描かれた段階にあります。

Anthropicは、評価者を組み込むことを自発的に行っていると述べています。あわせて、すべてのフロンティアAI企業が同じ取り組みを行うことが望ましい、という立場も示しています。Claudeを導入する側にとっては、モデルの出来だけでなく、その開発元がどこまで外部に見せているかも、比較の軸に加わりつつあります。

METRは、外部研究機関へのClaude利用データの提供でもすでにAnthropicと関わっています。提供された会話データの分析では、METRがコーディングエージェントの生産性を測っていました。今回はそこから、安全性評価の席が社内に置かれた形です。

まとめ

この仕組みが機能するかは、METRが最初の分析を公開し、Anthropicが伏せた範囲を自ら論じるかどうかで決まります。そこで初めて、公開の拒否権を手放した設計が実際に働いたと言えます。Claudeを導入する企業にとっての変化も、その分析が出てからです。

評価機関として加わる側は、第1段階では提供する情報も公開の可否もAnthropicが握る前提で始まります。上の段階へ進む基準が示されるかどうかが、次の注目点です。