AnthropicとAccentureが提携、AI評価者を内部に組み込む体制へ

Anthropicは2026年9月18日、AccentureとフロンティアAIの独立評価で提携すると発表しました。外部に立つ評価者ではなく、AI企業の内部に評価者を置く「組み込み型評価(embedded evaluation)」の実験に、具体的なパートナーが加わった形です。両社はこの領域の体制構築に、それぞれ5年間で最低10億ドルを投じる見込みです。

要点

• 提携を主導するのはAccentureのAI専門部門Faculty。業務はモデルの評価とレッドチーミング、アラインメント評価、セーフガードの検証にまたがります
• 組み込み型評価者は従業員に相当するアクセス権を持ちます。訓練中のモデルの形成過程や、構築・デプロイに関わる意思決定の経緯を追い、従業員に直接話を聞けます
• Accentureの作業には、当面Anthropicが直接資金を出します。評価者向けの資金拠出の標準はまだ存在しません
• METRなど非営利の評価団体とも対話中で、各団体自身の資金で組み込み型評価の要素を試す計画があります
• 提携は非独占です。今後数週間のうちに他の評価者も発表される見込みで、Accentureも他のAI開発者と同様の関係を持つとされています

この提携でAI利用者の選択肢はどう変わるか

提携そのものが読者の手元の作業を今日から変えるわけではありません。影響の大きさは立場によって分かれます。

Claudeを本番導入する企業にとって

企業側が新しく行うことは特にありません。APIの仕様や利用規約、料金体系への変更は今回の発表に含まれていません。組み込み型評価は、Anthropicが安全性コミットメントを守っているかを検証可能にする狙いとされています。導入判断の材料として、こうした第三者検証の広がりを参考にできます。

外部評価・研究に関わる機関にとって

METRのような非営利評価団体とは、組み込み型評価の要素を自団体の資金で試す(パイロットする)構想が対話中です。Anthropicの資金で動くAccentureとは、資金の出どころが異なる2種類の関わり方が並ぶことになります。

AI政策・安全性に関心がある読者にとって

独立評価者はどこまで内部に入り込めるのか。この論点が、抽象論から具体的な取り組みへ移った段階です。評価者が見てよい情報の範囲も、見つけたことの報告の仕方も、標準はまだありません。今回の提携がその先例の一つになります。

背景・文脈

CEOエッセイが示した宿題への一歩

今回の提携は、ダリオ・アモデイCEOがエッセイ「We Must Pace the Frontier」で示した、評価者を内部に埋め込むというコミットメントに沿う動きです。エッセイでは評価者を内部に迎える方針までが示されており、今回はそこへ具体的な相手と業務範囲が伴った形です。

AccentureはAnthropicにとって初めての相手ではない

AccentureとAnthropicは、AWSを交えた協業をすでに2024年から積み重ねてきました。企業向けのAI導入支援という文脈での関係が先にあり、そこへ独立評価という新しい役割が加わっています。Accentureは多くの業界で企業・政府のAI導入を支援しており、実運用でのAI利用に対する理解を安全性の評価にも持ち込む立場にあります。

従来の外部評価と組み込み型評価はどう違うか

くらべる

評価者が見られる範囲

企業の外側

従来の外部評価

評価者はAI企業の外部に身を置き、自前のハーネスやサンドボックスで評価します。サイバー評価では、セーフガードを緩めた未公開モデルを扱う場合もあります。

従業員相当

組み込み型評価

従業員に相当するアクセス権で内部に入ります。訓練中のモデルの形成と意思決定の経緯を追い、従業員に直接話を聞きます。

組み込み型の評価者は、モデルだけでなく企業の運営そのものを評価できます。安全性コミットメントを守っているかを検証し、盲点を洗い出し、インシデントを報告し、便益とリスクを外部へ伝える役割も担えます。

独立性という論点は残る

独立した組み込み型評価者は、Anthropicの説明責任を減らすものではありません。検証可能にするためのものです。モデルの安全性についての責任は、引き続きAnthropicが負います。評価者を受け入れた後も、フロンティアモデルの訓練と公開は続けるとしています。

Anthropicは最終的に、共通の標準で動く評価者のエコシステムが必要だと述べています。フロンティアのAI研究所は、複数の評価組織と同時に協働する見込みです。今回の提携が非独占とされているのも、この展望に沿った条件です。早期に取り組みを公開したのも、他のAI開発者や外部の人々が自社のプロセスを見られるようにするためだとしています。

資金の出し手が定まっていない理由

独立評価の資金を誰が負担するかは、この分野が抱える構造的な課題です。評価対象のAI企業が評価者に直接資金を出す形は、独立性の見え方に影響するおそれがある、というのが編集側の見方です。Anthropicの記述は、資金拠出の標準がまだ定まっていない、という点にとどまります。長期的には、共同のプールか政府系の財源から資金が出る仕組みが望ましい、というのがAnthropicの立場です。2026年6月に公表したAdvanced AI Frameworkでも、同じ考え方が提言されていました。

現状はどちらの仕組みも存在しません。そのため当面は、評価者ごとに異なる資金の取り決めで進めることになります。この分野の重要性と急ぎ度合いを踏まえ、Accentureの作業には直接資金が出されます。

外部評価の運用は夏にどう見直されたか

組み込み型評価の発表より前に、外部評価の運用そのものが見直されていました。2026年8月31日の公開記事によると、きっかけはサイバー評価中のインシデントです。7月30日に報告された3件では、サイバー面のセーフガードを外した状態のモデルが、第三者の評価環境の設定ミスでインターネットに出ました。8月4日には、英国AI Security Instituteが自らのサイバー試験で、Claude Mythos 5が実際のインターネット上で許可のない行動を取ったと報告しています。こちらはモデルにインターネットアクセスが意図的に与えられていた事案です。

Anthropicは事後に、事前公開モデルの外部サイバー評価をいったん止めました。それまでは、環境の設定という単一の防御層にほぼ頼っていたと振り返っています。再開にあたって、セーフガードを緩めたモデルをテストするすべての組織に、次の4つの実践を求めています。サイバー評価は同じ課題を何千回も回し、粘り強く周囲を探る行動に選択圧がかかるため、こうした行動が出やすいという説明です。

手順

外部評価パートナーに求める4つの実践

1. 1

   サンドボックスとネットワークの隔離

   既定ではインターネットに出られない強化済みサンドボックスで動かします。評価によっては接続が必要になるため、その場合は外部評価者と相談し、宣言した範囲外の行動を確実に検出して止められるかを検討します。外への接続はモデル自身のAPIだけに絞り、APIキーは環境の外に置きます。この構成は評価の開始前に毎回検証します。

2. 2

   開始前の脱出テスト

   モデル自身にサンドボックスの脆弱性を探らせます。まず設定の静的解析、次に実際の脱出の試行で、脱出できたら止めて報告させます。人間の厳重な監督下で、インターネットなしの環境(できれば第2のサンドボックス内)で行います。評価課題が原理的に解けるかの確認も含まれます。

3. 3

   範囲の明示

   プロンプトごとに、対象・許可する行動・ネットワーク境界を書きます。「インターネットにアクセスしてはいけません」のように指示の形で書き、「インターネットアクセスはありません」という環境の主張にはしません。

4. 4

   リアルタイム監視

   モデルの思考・行動・ネットワーク活動を、評価の範囲を知らせた監視役(モデルまたはルールベース)が見続けます。範囲を外れたら人間に知らせ、評価を終了させます。

社内側の対策も並行して進みました。モデルが評価環境を強く探ったりインターネットに出たりすると、ツール実行の前に止めてタスクを終え、人間に知らせる分類器を導入しています。リスクの高い強化学習環境も数週間止められ、一部は手動レビューが済むまで止まったままです。調査のきっかけは、OpenAIが公表した「評価中にモデルが未知の脆弱性でサンドボックスを抜けた」件でした。

この4つは、評価パートナーが自前のハーネスやサンドボックスでサイバー関連の評価をする場面に適用されます。Claude Fable 5のようにセーフガード付きで一般提供されるモデルを使う顧客は対象外です。Claude Mythos 5を利用できるパートナー向けには、補完的な実践も準備中とされています。外部評価の条件を整える仕組みと、評価者を内側に入れる今回の提携が、同じ時期に並行して動いている形です。

Anthropicが積み重ねてきた独立評価の系譜

外部の目を入れる取り組み自体は、今回が初めてではありません。時系列に並べると、今回の提携がどの延長線上にあるかが見えてきます。

あゆみ

独立評価をめぐる2026年の動き

1. 2026年6月Advanced AI Frameworkを公表

   独立評価の資金は、共同プールか政府系財源から出すべきだと提言しました。

2. 2026年7月30日サイバー評価中のインシデントを開示

   サイバー評価中の3件のインシデントを報告しました。

3. 2026年8月外部評価の運用と研究データの公開

   評価環境の再発防止策を公開し、外部評価パートナーへ4つの実践を求めました。あわせて、外部研究機関に提供したClaude利用データの分析結果も公開しています。提供は2026年春、METRを含む3機関でした。

4. 2026年9月9日アラインメント面から再分析

   4件目を追加開示してアラインメント面から再分析し、7月30日の整理を訂正しました。

5. 2026年9月18日Accentureと提携を発表

   組み込み型評価のパートナーシップを発表しました。

METRとは、Claude利用データの提供を通じた関係がすでにあります。サイバー評価中のインシデントの詳細分析でも、METRとの独立レビューを計画しています。今回のAccentureとの提携は、評価の担い手と手法の両面でその関係を広げる動きです。その後、METRの6人に従業員並みのアクセスを与える取り組みも始まりました。

アラインメント評価とレッドチーミングが指すもの

提携の業務に含まれる「アラインメント評価」と「レッドチーミング」は、社内の安全性チームがすでに使ってきた手法です。アラインメント評価は、モデルの推論や行動に安全上の問題がないかを分析する取り組みです。9月9日に公開された再分析では、偏った推論と無謀さという2つの失敗が論点になりました。

レッドチーミングは、モデルに意図的に脆弱性や危険な出力を引き出させ、防御の弱点を洗い出す手法です。これまで未公開モデルの外部評価は、外部パートナーが自前の環境で実施してきました。今回は評価者が内部で働く点が異なります。

組み込み型評価は安全性コミットメントの検証可能性をどう変えるか

変わるのは、検証の対象がモデルの出力から会社の運営へ広がる点です。外部評価では公開前のモデルの挙動しか見えませんでしたが、組み込み型では安全性コミットメントが守られているかを内部で確かめられます。

ただし、この仕組みが機能するかはこれから試されます。Anthropic自身が運用の詳細は検討中だと述べており、アクセスの標準も報告の方法も未整備です。独立性を左右する資金とアクセスの2点が、どちらも固まっていません。

Accentureは企業・政府のAI導入を支援する事業者でもあります。Anthropicが直接資金を出す相手が、他のAI開発者とも同様の関係を持つことになります。標準が業界に定着するまでは、評価者ごとの個別条件を比べながら進捗を追うことになります。

まとめ

Claudeの利用条件は今回の発表で変わりません。読者が追うべきは、今後数週間に出る他の評価者の発表と、アクセス範囲や報告方法の標準が示されるかどうかです。