Frontier Safety Roadmapが記録した目標撤回と完了
AnthropicのFrontier Safety Roadmapは、データ保持目標の取り下げとムーンショットR&Dの延期を隠さず公開した。進捗と後退を同じ形式で残す運用実態を追う。
Frontier Safety Roadmapとは何か
Frontier Safety Roadmapは、Anthropicが安全研究の目標を期限付きで公開し、達成したかどうかを記録していく文書です。2026年2月24日に発効したResponsible Scaling Policy(RSP)v3.0で新設されました。
扱う領域は4つです。Security(モデルの窃取・改ざん防止)、Safeguards(製品面での悪用防止)、Alignment(モデル自身が自律的に害をなさないことの確保)、Policy(政策提言)で、領域をまたぐ目標には「Cross-cutting」の区分もあります。
ページ冒頭には、公開する狙いが2つ書かれています。1つ目は社内の「強制力(forcing function)」です。多くの目標は複数部門にまたがる全社的な取り組みになるため、目標を公に書くことで調整と優先順位づけを促します。ASL-3の安全対策を例に、RSPがすでにその役割を果たしてきたとも述べています。
2つ目は他社への共有です。ほかのAI開発者が同じように目標を公開し、そこから学び合えることを望むと書かれています。政策担当者や顧客にも、安全対策がどこへ向かうかを知らせる位置づけです。
特徴的なのは、目標を取り下げたときにその事実と理由を同じ場所に残し、達成したかどうかの更新も同じ場所に出す点です。ページには「目標を実行できないという理由だけで、より控えめな方向に修正する事態は避けるよう努める」という一文があります。
公開中の目標は6つ、期限は2027年7月まで
2026年2月19日に最初の目標群が設定されました。7月10日時点の目標一覧には6つが並び、そのうち5つの期限は2027年1月1日までに集中しています。
| 領域 | 目標 | 期限(7月10日版) | Anthropic自身の確信度 |
|---|---|---|---|
| Security | 目標ムーンショットR&D | 期限(7月10日版)2026年9月30日 | Anthropic自身の確信度初期目標は「高い確信」 |
| Alignment | 目標Claudeの憲法(Constitution)の遵守 | 期限(7月10日版)2026年10月1日 | Anthropic自身の確信度憲法の更新維持と訓練データの監督は中程度、整合性評価は非解釈可能性の部分が高・解釈可能性の部分が中程度 |
| Safeguards | 目標社内レッドチーミング | 期限(7月10日版)2027年1月1日 | Anthropic自身の確信度中程度 |
| Safeguards | 目標攻撃調査の完全自動化 | 期限(7月10日版)2027年1月1日 | Anthropic自身の確信度中程度 |
| Cross-cutting | 目標社内AI開発の「eyes on everything」 | 期限(7月10日版)2027年1月1日 | Anthropic自身の確信度中程度(監視の部分は中〜高) |
| Security | 目標全方位の底上げ(Leveling up across the board) | 期限(7月10日版)2027年7月1日 | Anthropic自身の確信度中程度 |
確信度の欄は、各目標の末尾にAnthropicが書き添えている自己評価です。後で見る2件の完了(データ保持の報告書とムーンショットの初期目標)は、どちらも設定時に「高い確信」と書かれていた目標でした。いま残っている目標の大半は「中程度」で、研究課題としての難しさや、セキュリティ要員の増員が必要なことが理由に挙がっています。
期限の並びには、ページ下部の「Expectations」節が手がかりになります。ここでは、AIシステムが大規模なトップ研究チームの仕事を完全に自動化する、または劇的に加速する事態が、早ければ2027年初頭に起こりうると述べています。そのころまでに達成していたい目標として挙がるのは、ムーンショット、レッドチーミングと攻撃調査、政策ロードマップ、eyes on everything、Constitutionの遵守の5つです。2027年7月が期限の「全方位の底上げ」は、この一覧に入っていません。
「全方位の底上げ」は、達成の判定方法も具体的に書かれています。
全方位の底上げを達成とみなす条件
完全整備に近い項目
60%以上
Fully or near-fully in placeと判定された割合
概ね整備済みの項目
80%以上
Mostly in placeに達した割合
社内コメント期間
7日以上
結論を全社に回し、食い違う観察を募る
セキュリティ上の項目を1つずつ「Not in place」「Mostly in place」「Fully or near-fully in place」で判定した報告書を、Responsible Scaling Officerに提出する流れです。報告書の結論は全社に回覧されますが、細部まで全社に回覧されるわけではありません。
データ保持原則の目標はなぜ取り下げられたのか
最初の目標は「セーフガードをデータ保持ポリシーの更新でどう改善できるか、社内向けの詳細な報告書を書く」というものでした。Anthropicは一部の顧客に「ゼロデータ保持」ポリシーを提供しています。全顧客に広げると悪用の検知や実運用からの学習が大きく妨げられるため、どの顧客にどの保持ポリシーを提供するかの原則が必要だ、というのが動機です。
後続のステップも約束されていました。報告書の完成から6週間以内に、関連する新しい目標を発表するか、発表しないと表明するかのどちらかを行う、という内容です。
報告書は2026年3月29日に完成し、設定時の期限だった4月1日より3日早く済みました。6週間後の期限は5月11日でしたが、Anthropicは待たずに5月5日、新しい目標を設定しないことにして該当箇所をページから削除しています。
5月5日に消えたものと、残ったもの
ロードマップから消えた
報告書の先に置く、期限付きの個別目標。データ保持の原則について、公開の場で期日を切る形はやめました。
社内で続くもの
報告書の分析を土台に、将来の一部モデルのデータ保持慣行を安全面から改善する大規模プロジェクトです。考え方を説明する公開コンテンツも出す予定とされています。
理由は「個別の期限付き目標を設定しても、推進力を生む効果は薄い。ほかの社内プロセスで十分な推進力を確保できると考えている」というものです。ロードマップ自身が掲げる「forcing function」の役割を、この件では別の仕組みが担うという判断になります。
アーカイブ用の「Previous goals」ページでは、この目標の状態が「Completed May 5, 2026 and removed from the Roadmap on the same date」と書かれています。撤回(withdrawn)でなく完了として扱われ、設定時の文面と2回の更新が並べて残されています。報告書という前段は期限内に終わっており、取り下げられたのは「その先にさらに目標を立てるか」の部分だけです。目標が消えた理由まで同じ場所に残す運用は、通常のプレスリリースには出てこない粒度です。
ムーンショットR&D — 初期目標は達成、Phase 1は4カ月半延期
ムーンショットR&Dは、将来「世界最高水準のリソースを持つ攻撃者」の標的になりうることを見据え、通常の延長線上にない大胆なセキュリティ対策を探る枠組みです。
ムーンショットR&Dの更新履歴
- 2026年2月19日目標を設定
候補は7項目を例示し、2026年4月1日までに1〜3件を選んで着手するとしていました。
- 2026年4月2日2件の着手を確定し、初期目標を達成
継続プロジェクト向けに改訂した目標が置かれ、Phase 1の期限は5月15日とされました。
- 2026年5月5日Phase 1の期限を9月30日へ延期
「全方位の底上げ」の加速に人員を振り向けたことが理由です。
- 2026年7月29日本文の日付の誤りを訂正
Phase 1の期限が9月30日なのに、本文の一部が9月15日と書かれていた箇所を直しました。
2月の当初案の候補は、小規模な模擬セキュア研究環境から、先進AIをセキュリティ業務に応用する取り組みまで、7項目にわたっていました。モデル開発の全工程での機密コンピューティング採用の実現可能性分析、高リスク職種の継続的な身元審査、モデルとのやりとりを重みの直接操作でなくAPI経由に統一する実験なども含まれています。選ばれたのは次の2件です。
1件目は、重要な業務とインフラが極端に厳しいセキュリティ慣行の下に置かれたら、どう見えて生産性はどう変わるかを示す試作です。隔離ネットワークや、外部接続を限る「グリーンライン」を、ごく小規模に模擬します。
2件目は、検証可能推論(provable inference)の試作です。モデルの出力を、特定のモデル重みに由来すると証明できる形で「署名」する技術で、期限は2026年9月30日です。高度な攻撃者がシステムに侵入して訓練後のモデルを改変する事態への対策として説明されています。
延期されたのは1件目のPhase 1(必要な構成要素の棚卸しと、コスト・期間の予備分析)です。Anthropicは、隔離ネットワークが今後1〜2年で現実的な選択肢かどうかについて、初期の社内議論が懐疑的だったとも書いています。強力なAIが登場しうる時間軸に間に合うのか、という疑問です。
それでもPhase 1自体は撤回されていません。期限は9月30日とされ、完了後2週間以内に次のステップを決めます。Phase 1の結果しだいで、このプロジェクトの優先度を下げる可能性があるという留保は、4月2日の改訂版に明記されています。
政策ロードマップの完了とConstitution文言の更新
Policy領域では、「政策担当者向けのロードマップを策定する」という目標が完了しました。2026年7月8日、Anthropicは公表済みのAdvanced AI Framework(先進AIの規制提言文書)がこの目標を満たすと判断しています。設定時から大きな変更はなく、後継の政策目標を新たに設定する予定です。
目標の本文は、リスクに応じて要件が強まる「規制のはしご」という考え方を軸にしています。現在のフロンティアモデルには透明性と基本的な監督を求めます。能力が上がるにつれ、外部テストの厳格化、インシデント報告の強化、政府による深い監督へ進む、という構想です。最も高度な水準では、ソフトウェアよりも原子力や金融の規制に近い統治が適切になりうる、とも書かれています。
Alignment領域では7月10日に別の小さな更新がありました。Claude's Constitutionを公開版と社内版で同期させる期限の起点が、書き換えられています。
- 更新前: 社内の関連更新から90日以内
- 更新後: 更新されたConstitutionで訓練したモデルの、社内外へのデプロイから90日以内
起点がデプロイの時点になったことで、公開版をいつまでに直すのかを外部から数えやすくなりました。
7月29日の誤字訂正まで更新履歴に載せているのは、このページの粒度を示す例です。内容を変えない修正も、日付つきで残されています。
進捗の判定は誰が行うのか
Frontier Safety Roadmapでは、達成・延期・取り下げのいずれも、更新日・変更内容・理由の形式で記録されます。文言を静かに差し替えるのでなく、変更の履歴が公開ページの「Updates」にそのまま積まれます。
RSPの変遷にも似た特徴があります。v2.0では、ポリシーの文言どおりに運用しきれなかった実例を自ら公開していました。RSPが運用の不備を記録するのに対し、Roadmapは個々の目標の進捗を記録する文書で、役割は別です。失敗や修正を消さずに残す姿勢は共通しており、ASL(AI Safety Level)の適用判定のように基準が公開されている仕組みとも噛み合います。
ただし、この記録は外部が独立に検証できる形ではありません。ページには、機密性の高い知的財産や現在の防御の詳細を守るため、公開版には黒塗りがあると明記されています。黒塗りのない版を読めるのは、全従業員と取締役会、長期利益信託(LTBT)です。
達成の判定も、基本はAnthropic自身が行います。たとえば「全方位の底上げ」でも、上で見た社内の報告書とコメント期間が歯止めです。ページに書かれた判定の仕組みに、外部の第三者が加わる手順はありません。
実際にどれだけ厳格に判定されているかは、Risk Reportの内容や外部レビューの積み重ねで見ていくことになります。それでも、目標を取り下げた事実を消さずに残す運用は、期限だけ立てて後から黙って忘れる動機を弱めます。
まとめ
読むときの軸は、達成の件数でなく「何が消え、何が延び、何が残ったか」の履歴です。
次に動く節目は、Phase 1の完了後に決まる次のステップと、2027年1月1日に期限が集中する3つの目標です。Claudeモデル廃止で交わされる約束と同じく、期限付きで公表された約束の履行状況として追っていく価値があります。