AnthropicのAI規制提言 — 的を絞った規制を18か月以内に
Anthropicが2024年10月に公開した政策提言。透明性・実効的な安全対策・簡素さの3条件を満たす規制を、今後18か月で整備するよう主要国政府に求めた。
Anthropicが求めているのは何か
Anthropicは2024年10月31日、AI規制のあり方について政策提言「The Case for Targeted Regulation」を公開しました。主張は1つに絞れます。政府は今後18か月のうちにAI政策へ動く必要があり、先回りしてリスクを防げる時間は急速に狭まっているというものです。
動くのが遅れると、後手に回った政府は拙速で的外れな規制を作ってしまう。かといって急ぎすぎれば、効果がないのに開発の足かせだけになる規制が生まれる。この両方を避けるために、Anthropicは規制が満たすべき3条件を示しました。
提言の土台は、自社の安全方針であるResponsible Scaling Policy(RSP)の運用実績です。RSPはv1.0からv3.4まで8回改定されており、提言はその経験を外部規制の議論に持ち込んだものと読めます。
なぜ18か月なのか — 数字で見る進歩の速さ
「18か月」の根拠は、サイバーとCBRN(化学・生物・放射性物質・核)の2領域で自社が観測した進歩です。
提言が根拠に挙げた3つの指標
SWE-bench(コーディング)
1.96% → 49%
Claude 2(2023年10月)からClaude 3.5 Sonnet(2024年10月)。1年で約25倍
GPQA 最難関セクション
38.8% → 77.3%
2023年11月の公開時から、2024年9月のOpenAI o1まで。人間の専門家は81.2%
GPQA の途中経過
59.4%
2024年6月のClaude 3.5 Sonnet
SWE-benchの途中には、2024年3月のDevinの13.5%もあります。社内のFrontier Red Team(先端リスクを専門に評価するチーム)は、現行モデルがすでに幅広いサイバー攻撃関連タスクを支援できると見ています。さらに、長く複数段階にわたる作業を計画できる次世代モデルは、いっそう効果的になると予想しています。
CBRNでは、英国AI Safety Instituteが業界各社のモデル(Anthropic含む)を試験しました。結論は「いくつかのモデルでは、科学の質問への回答がPhDレベルの専門家に匹敵した」というものです。
ここで見落としやすいのが、提言自身の留保です。現時点でフロンティアモデルを使うことの上積み効果は、既存のソフトウェアやインターネットツールと比べて「まだ比較的小さい」と書かれています。ただし急速に大きくなっているとも続きます。
Anthropicは約1年前に、フロンティアモデルが2〜3年でサイバー・CBRN領域の実質的なリスクをもたらしうると警告していました。提言は、その時期がかなり近づいたという判断です。「緻密で慎重な規制がまもなく必要になる」という一文が、18か月という期限の背景にあります。
規制の試作品としてのRSP — 3条件は何を求めるか
Anthropicは2023年9月からResponsible Scaling Policy(責任あるスケーリング方針)を運用しています。モデルが一定の能力しきい値(capability threshold)を超えたときだけ、対応する安全・セキュリティ対策を発動する「if-then」構造の枠組みです。
原則は2つあります。1つは比例性で、対策の強さをモデルの実際の能力に合わせます。もう1つは反復性で、能力を定期的に測り、対策を見直し続けます。
提言はRSPを規制の代替ではなく試作品(prototype)と位置づけ、そこから実効的なAI規制に欠かせない3つの要素を引き出しました。
規制に求める3条件
透明性
RSPに相当する方針の公開と、新世代モデルごとのリスク評価の公開を義務にします。公開内容が正確かを確かめる仕組みも要ります。
実効的な安全対策の誘導
公開だけでは、弱い方針を掲げる会社が出てきます。規制側が、RSPに盛り込むべき脅威モデルや満たすべき水準を示します。
簡素さ
規制対象と無関係な負担は課しません。法律そのものも、理解しやすく実装しやすい形にします。
透明性だけでは足りない理由
現状では、ある企業が自社のRSPを守っているかを、一般の人も議員も確かめられません。出発点は、能力しきい値と、到達時に発動する対策を大づかみに書いた方針の公開義務です。
提言は、その次の段階にも踏み込んでいます。何を求めるかには複数の方法があり、利点と欠点が違います。
- 規制当局が、RSPが扱うべき脅威モデルを「合理性の基準」のもとで特定し、細部は企業に任せる
- RSPが満たすべき基準そのものを、規制側が定める
- 各社のRSPを政府が問い合わせて比較し、明らかに水準を下回る会社の責任を問う。ベストプラクティスを学びながら、各社が競い合って水準を上げる「race to the top」を促す
Anthropicはどの方法が最適かを決め切れていないと認めています。ただし、どの方法でも柔軟でなければならないと強調しています。技術の進歩が速いので、規制の手続きが変化するベストプラクティスから学べる設計にする必要があるからです。
簡素さについても、提言は1つの案に固執しないと述べています。3条件を満たす案は複数あり、主要な関係者が賛同できる現実的な案を探したいというのが立場です。
RSPが社内にもたらした変化
RSPは公表文書にとどまらず、社内の実務を動かしたといいます。変化は3つです。
セキュリティや安全性評価は、問題が起きてから後追いで整備されがちです。RSPは、事前に人員と予算を割く公約になります。Security・Trust & Safety・Interpretability・Frontier Red Teamの各チームは、RSPの要件を満たすために採用を加速させました。
次に、抽象的になりがちな脅威モデルが、製品ロードマップに組み込まれました。机上の議論でなく、具体的で検証可能な形に磨かれていきます。
最後が、安全対策の知見と推奨事項を内部文書化する義務です。この積み重ねが、ホワイトハウスのVoluntary AI CommitmentsやBletchley Park AI Safety Summitでの自主的な公約の履行にも役立ったそうです。
Anthropicは、RSPのような仕組みは業界で自主的に採用されるべきだと考えています。ただし、会社が約束を守っているかを社会が確かめたがる以上、強制力のある規制も必要だというのが提言の筋です。
規制は技術開発を遅らせるか
提言は、この懸念に直接答えています。規制の負担をゼロにするのは非現実的です。目標は「小さく管理できるコンプライアンス負担で、壊滅的リスクを大きく減らす」ことに置かれています。
RSPの枠組みは、壊滅的リスクをもたらしうる能力を持たないモデルを素早く見分け、それ以上足止めしない設計です。評価の設計にも高い柔軟性を求めており、AIリスク評価の科学はまだ初期段階だとしています。
安全性研究への投資が、AI科学全般に思わぬ波及効果をもたらした経験もあるそうです。RSPのセキュリティ要件は、社内外の脅威から知的財産を守るので、国家安全保障と民間の技術革新の両方に資するとも述べています。
用途別ではなくモデル単位で規制する理由
もう1つの主張は、規制の単位を用途ではなくモデル本体に置くことです。
Claude.aiやChatGPTのような消費者向けAIは、コード生成から文書要約まで何でもこなす汎用製品として提供されています。用途を限っていないので、用途ごとに規制を設計するのは現実的ではありません。モデルに安全対策がどれだけ入っているか、という基本的な性質を規制する方が筋が通る、という議論です。
企業向けでは事情が少し違います。下流の開発者がモデルのAPIを自社製品に組み込む場合は、用途による区別が成り立つ余地があります。それでも、多くの企業向けアプリはエンドユーザーがモデルと直接やり取りする形なので、原理的にはどんなタスクにも使えます。
加えて、基盤モデルの開発には数億ドル規模のGPUが要ります。追跡して規制する対象としても、いちばん扱いやすいのが基盤モデルです。
オープンウェイトモデルへの立場
提言はオープンウェイトモデル(重みを公開するモデル)を狙い撃ちにしていません。規制は実測されたリスクの大きさに基づくべきで、重みを公開しているかどうかは基準にしないという立場です。
統一された厳密な試験でリスクの大小が示された範囲を除けば、規制はオープンウェイトを有利にも不利にもしないという考え方です。
例外は、オープンウェイトに固有のリスクが実証された場合です。たとえば、任意のデータセットで自由に再学習(finetune)できる点が挙げられています。その場合は、クローズドな重みのモデルと同じく、開発者がそのリスクに対処するよう促す規制が正当だとしています。2026年7月のAnthropicの見解(オープンウェイトモデルに関するAnthropicの立場)も、一律の禁止には反対という点でこの線にあります。
州か連邦か — SB 1047の拒否権から読む
米国内の規制について、Anthropicの第一希望は連邦法です。全米で統一され、生物テロやサイバーセキュリティに関する連邦政府の専門性を生かせ、他国との交渉で連邦政府の立場も強くなるからです。
一方で、連邦の立法が懸念する時間軸に間に合わない可能性も認めています。そのため、連邦法を理想としつつ、州の規制を最終的な受け皿に置く、複数の道を並行して進める戦略です。連邦規制が州規制を上書きする(先占する)形も、提言は想定しています。
州の先行例として挙がるのが、カリフォルニア州のSB 1047(フロンティアAIモデルの安全な革新に関する法案)です。提言は全体として肯定的に見つつも不完全だったと評価し、主要な関係者の支持が集まらなかったと書いています。
この法案は、提言の公開から約1か月前の2024年9月29日に、ニューサム知事が署名せずに州上院へ返しています。拒否権のメッセージで知事が問題にしたのは、規制の線引きです。最も高価で大規模なモデルだけを対象にすると、人々に誤った安心感を与えかねないと述べました。小型で専門特化したモデルが、同等かそれ以上に危険になりうるという指摘です。
同じメッセージには、連邦議会が動かない場合はカリフォルニア単独の対応もありうるという一節があります。ただし実証的な分析に基づく必要があるとの条件が付いていました。連邦の動きがない場合に州の規制が受け皿になりうるという点では、提言と知事の見方は重なります。
他国への展望
EUのような複数国のブロックも、AI規制の検討を始めています。提言は、示した原則は単純で現実的なので、米国の外でも役立つはずだと述べています。
標準化と相互承認の仕組みがあれば、フロンティアAI企業に共通の安全・セキュリティ手法を義務づけること自体が、世界各地での事業コストを下げうるとも見ています。
この提言が扱わないリスク
提言が扱うのは、現行の規制では十分に対応できていない、計算資源を大量に使うフロンティアモデル特有のリスクです。ディープフェイクや子どもの安全のような、より身近なリスクは主題ではありません。
それらには別の取り組みで対応しているとされ、選挙の公正性への取り組みや、Thornが進める生成AI向けの「Safety by Design for Generative AI」との連携が挙がっています。
提言の後に何が起きたか
提言の前後の動き
- 2023年9月RSPの運用開始
Anthropicが最初のResponsible Scaling Policyを公表しました。
- 2024年9月29日SB 1047に拒否権
ニューサム知事が署名せずに州上院へ返しました。
- 2024年10月31日Anthropicが提言を公開
3条件と、今後18か月という期限を示しました。
- 2025年9月29日SB 53が成立
同じ領域を扱う州法が署名されました。
提言の3条件は、2025年成立のSB 53(Transparency in Frontier Artificial Intelligence Act)と並べると輪郭がはっきりします。右は法案テキストに書かれた主な義務です。
提言の3条件とSB 53の義務を並べる
提言が求めたこと
RSPに相当する方針を公開させる。新世代モデルのリスク評価を公開させる。内容の正確さを確かめる仕組みを置く。
SB 53の義務
年間売上5億ドル超の大手フロンティア開発者に、フロンティアAIフレームワークの公開を義務づけます。重大な安全インシデントは州の緊急サービス局へ報告します。違反には1件あたり100万ドル以下の民事罰があり、執行は州司法長官のみが行います。
SB 53は、公開と報告に絞った構成です。対象は売上規模で区切られ、罰則の上限も決まっています。複雑さを避けるという提言の簡素さの条件と、方向がそろっているように見えます。
一方、法案の義務は、自社の枠組みの公開と遵守を問う形が中心です。規制側が基準を定めて水準を引き上げる、という「実効的な安全対策の誘導」の条件にどこまで届くかは、運用を見ないと分かりません。
提言のあとのAnthropicの動きは、規制の議論にとどまりません。Anthropicは2026年9月にEnterprise Frontier Safeguardsを発表し、ゼロデータ保持(ZDR)を保ったまま悪用を検知する仕組みを示しました。政策の面では、米中AI競争の2028年シナリオ論文や、危険な知識を取り外せるdual-use知識へのオフスイッチ研究も出ています。規制の前提となる測定では、2023年にNISTへの予算増額を求めた政策提言もあります。
まとめ
提言を読むときの軸は2つあります。1つは、規制を用途でなくモデルに掛ける点です。もう1つは、公開義務から始めて、水準を引き上げる仕組みまで求める点です。
各国の法案がこの軸のどこまで届いているかを見ると、提言の射程がつかめます。Claudeを使う側にとっては、AnthropicのUsage PolicyやRSPが、規制の側からどう要求されていくかを読む手がかりになります。