AnthropicのAI規制提言 — 的を絞った規制を18か月以内に

Anthropicが求めているのは何か

Anthropicは2024年10月31日、AI規制のあり方について政策提言「The Case for Targeted Regulation」を公開しました。柱は1つ。「的を絞った規制」を今後18か月以内に整備しないと、手遅れになるという警告です。

規制が遅れれば、後手に回った政府は「拙速で的外れな規制」を作ってしまう。逆に急ぎすぎれば「効果はないのに開発の足かせになる規制」になる。この両方を避けるための3条件が提示されました(Anthropic自身も社内基準としてResponsible Scaling Policyをv1.0からv3.4まで8回改定しており、この提言は自社の運用実績を外部規制の議論に持ち込んだものと読めます)。

なぜ今なのか — サイバーとCBRNの2つの根拠

Anthropicが「18か月」という具体的な期限を出す根拠は、自社モデルの評価結果です。

SWE-bench(実際のソフトウェア課題を解けるかを測るベンチマーク)のスコアは、2023年10月のClaude 2で1.96%、2024年3月のDevinで13.5%、2024年10月のClaude 3.5 Sonnetで49%まで伸びました。1年で約25倍です。社内のFrontier Red Team(先端リスクを専門に評価するチーム)は、現行モデルがすでに幅広いサイバー攻撃関連タスクを支援できる水準にあると評価しています。

CBRN(化学・生物・放射性物質・核)領域では、英国AI Safety Instituteが業界各社のモデル(Anthropic含む)を検証し、「生物学・化学の専門知識について、いくつかのモデルの回答はPhDレベルの専門家に匹敵する」と結論づけました(Anthropicは米国側の測定機関として、NISTへの予算増額を求める政策提言も行っています)。ベンチマークGPQAの最難関セクションのスコアは、2023年11月の公開時点で38.8%、2024年6月のClaude 3.5 Sonnetで59.4%、2024年9月のOpenAI o1で77.3%(人間の専門家平均は81.2%)まで上昇しています。

Anthropicは約1年前に「フロンティアモデルは2〜3年でサイバー・CBRN領域の実質的なリスクをもたらしうる」と警告していました。今回の提言は、その見立てが前倒しになっているという判断に基づいています。

Responsible Scaling Policy(RSP)を規制の試作品にする

Anthropicは2023年9月からResponsible Scaling Policy(RSP、責任あるスケーリング方針)を運用しています。モデルが一定の能力しきい値(capability threshold)を超えたときにだけ、対応する安全・セキュリティ対策を発動する「if-then」構造の枠組みです。

RSPには2つの原則があります。比例性(対策の強度をモデルの実際の能力に比例させる)と反復性(モデルの能力を定期的に測定し、対策を見直し続ける)です。RSPは規制そのものの代替ではなく、規制の試作品(prototype)という位置づけです。

RSP運用を通じて得た知見から、Anthropicは実効的なAI規制に必要な要素を3つに絞り込みました。

いずれの条件も、Anthropicが自社のRSP運用で直面した課題の裏返しです。RSPは平時から安全・セキュリティ・解釈可能性・Frontier Red Teamといった部門の採用と投資を増やす一方、脅威モデルを机上の空論でなく日々の業務に落とし込む効果もあったといいます。

RSPが社内にもたらした3つの変化

RSPの運用は単なる公表文書にとどまらず、社内の実務を動かしています。効果は3つです。

1つ目は投資の増加です。セキュリティや安全性評価は通常、問題が起きてから後追いで整備されがちですが、RSPは事前に人員・予算を割く公約になります。Security・Trust & Safety・Interpretability・Frontier Red Teamの各チームは、RSPが定める安全・セキュリティ要件を満たすために採用を加速させてきました。

2つ目は組織の優先順位づけです。抽象的になりがちな脅威モデル(想定される攻撃シナリオ)を、RSPは日々の製品ロードマップに組み込ませます。結果として、脅威モデルは机上の議論ではなく具体的で検証可能な形に磨かれていきます。

3つ目は透明性です。RSPはAnthropicに、実装した安全対策の知見や推奨事項を内部文書化する義務を課します。この積み重ねが、ホワイトハウスのVoluntary AI CommitmentsやBletchley Park AI Safety Summitでの自主的な公約の履行にも役立ったといいます。

規制は技術開発を遅らせるか

Anthropicはこの懸念に正面から答えています。規制の負担をゼロにすることは非現実的ですが、目標は「小さく管理可能なコンプライアンス負担で、壊滅的リスクを大きく減らす」ことに置くべきだという立場です。

RSPの枠組み自体、壊滅的リスクを及ぼしうる能力を持たないモデルを迅速に識別し、余計な足止めをしない設計になっています。安全性研究への投資がAI科学全般に思わぬ波及効果をもたらした経験もあるといいます。RSPのセキュリティ要件(内部・外部双方の脅威からIPを守る仕組み)は、国家安全保障と民間の技術革新の両方に資するという整理です。

用途別規制ではなくモデル単位の規制を求める理由

提言のもう1つの主張は、規制の単位をユースケース(用途)ではなくモデル本体に置くべきというものです。

Claude.aiやChatGPTのような消費者向けAIは、コード生成から文書要約まで汎用的にこなす製品として提供されています。用途を限定していない以上、想定しうる用途ごとに規制を設計するのは現実的ではありません。安全対策の有無といったモデル自体の性質を規制する方が理にかなっている、というのがこの提言の立場です。

企業向けAPI利用では用途ごとの区分けが多少は成り立ちますが、それでも多くのエンタープライズ製品はエンドユーザーとモデルが直接やり取りする構造を持ち、任意のタスクに使われうる点は変わりません。加えて、基盤モデルの開発には数億ドル規模のGPU投資が必要で、追跡・規制の対象としても現実的だとAnthropicは位置づけています。

オープンウェイトモデルへの立場

提言はオープンウェイトモデル(重みを公開するモデル)を狙い撃ちしていません。Anthropicの立場は、規制は実証されたリスクの大きさに基づくべきで、重みの公開・非公開自体を基準にしないというものです。

ただし、任意のデータセットで自由に再学習(finetune)できるといったオープンウェイト特有のリスクが実証されれば、そのリスクに対応する規制は正当だとしています。この立場は、2026年7月にAnthropicが公開したオープンウェイトモデルへの見解(オープンウェイトモデルに関するAnthropicの立場)とも一貫しています。

米国内の規制、そして各国への展望

Anthropicは連邦レベルでの統一的な立法を第一希望としつつ、連邦の立法プロセスが間に合わない可能性を認めています。そのため、連邦立法を目指しながら、必要に応じて州レベルの規制をバックストップ(最終的な受け皿)にする多面的な戦略を提案しています。

具体例として、カリフォルニア州のSB 1047(Safe and Secure Innovation for Frontier Artificial Intelligence Models Act)を挙げ、「不完全だったが、幅広い支持を集めるには至らなかったものの重要な前進だった」と評価しています。

各国への展望では、EUのような複数国ブロックも含め、標準化と相互承認の仕組みがあれば、共通の安全・セキュリティ基準の導入がフロンティアAI企業の事業コストをかえって下げる可能性にも言及しています。

この提言がスコープ外にしているもの

提言は、ディープフェイクや子どもの安全のような近い将来のリスクを扱っていません。Anthropicが焦点を当てているのは、現行の規制では十分に対応できていない、計算資源集約型のフロンティアモデル特有のリスクです。近い将来のリスクについては、選挙の公正性への取り組みや、子どもの安全を扱うThornの「Safety by Design for Generative AI」との連携で別途対応しているとしています。

提言から2年近く経って何が変わったか

この提言の公開から本記事の執筆時点まで、Anthropicは規制論だけでなく実装面でも動いています。2026年に入ってからはEnterprise Frontier Safeguards(Enterprise Frontier Safeguardsを発表)のように、ゼロデータ保持(ZDR)を維持したまま悪用を検知する製品側の仕組みを具体化させました。RSPを規制の試作品と位置づける発想が、社内の製品ロードマップと外部への政策提言の両方に一貫して反映されている形です。

Anthropicが政府の対応の遅さを懸念材料として名指しし続けている点は変わっていません。SB 1047がまとまった支持を得られなかった経緯を踏まえると、連邦レベルの統一立法が実現するかどうかは、この提言が投げかけた問いに対する最も具体的な回答になります。

まとめ

Anthropicは2024年10月時点で、政府・AI業界・市民社会が協調してAI規制の枠組みを構築すべきタイミングにあると訴えました。柱は透明性・実効的な安全対策の誘導・簡素さの3条件で、規制の単位はユースケースではなくモデル本体。RSPを規制の試作品と位置づける発想は、その後のAnthropicの政策発信(米中AI競争の2028年シナリオ論文やdual-use知識へのオフスイッチ研究)にも通底しています。Claude利用者にとっては、Anthropicが自社の安全対策(Usage Policy・RSP)をどう規制側に接続しようとしているかを知る手がかりになる提言です。