AnthropicがSB53を支持した理由
Anthropicは2025年9月、カリフォルニア州のAI透明性法案SB53への支持を表明しました。前身の法案がなぜ廃案になったのか、成立した条文は誰に何を義務づけ、どこまでが罰則の対象かを追います。
Anthropicが支持したのは「開示義務」型の州法
Anthropicは2025年9月8日、カリフォルニア州議会で審議中だった法案への支持を表明しました。法案名はSB53、正式名称はTransparency in Frontier Artificial Intelligence Act(TFAIA)です。SB53は、Anthropicのような最先端のAIシステムを開発する大手企業に対し、技術的な設計を規制するのではなく、安全性に関する情報の開示を義務づける法案です。3週間後の2025年9月29日、ニューサム州知事の署名により成立しています(Chapter 138, Statutes of 2025)。
Anthropicは支持表明の中で、「フロンティアAIの安全性は本来、州ごとの寄せ集めではなく連邦レベルで扱うべきだ」と述べています。それでも州法での対応を評価する姿勢を明確にしました。理由として挙げたのが「強力なAIの進歩は、ワシントンでの合意を待ってはくれない」という一文です。
前身の法案はなぜ廃案になったのか
SB53には前身にあたる法案があります。同じくスコット・ウィーナー州上院議員が提出したSB1047です。正式名称はSafe and Secure Innovation for Frontier Artificial Intelligence Models Actといいます。SB1047は、学習に1億ドル以上を投じた大規模モデルを対象にした法案でした。サイバー攻撃や大量破壊兵器の製造といった「重大な害」を防ぐ義務と、開発企業への損害賠償責任を課す内容です。
ニューサム知事は2024年9月29日に拒否権を行使します。知事は拒否通知で、法案の意図には理解を示しつつも、「基本的な機能にまで一律に厳格な基準を課している」ことと「実証的な分析に欠ける」ことの2点を拒否理由に挙げました。
知事は、AIガバナンスの専門家からなる「Joint California Policy Working Group」を招集し、代替案の検討を委ねました。作業部会がまとめた基本方針が「trust but verify(信頼しつつ検証する)」です。Anthropicの支持表明は、SB53がこの原則を、規範的な技術要件ではなく開示要件によって実装していると位置づけています。SB1047が技術面の一律規制を狙ったのに対し、SB53は開示・報告の仕組みに絞り込んだ点が最大の違いです。
SB1047とSB53、規制の設計思想はどう変わったか
2つの法案を並べると、カリフォルニア州のAI規制が「技術そのものを縛る」設計から「情報開示で説明責任を課す」設計へ移ったことが見えてきます。
| 項目 | SB1047(2024年、拒否) | SB53(2025年、成立) |
|---|---|---|
| 規制対象の線引き | SB1047(2024年、拒否)学習コスト1億ドル以上 | SB53(2025年、成立)計算量10の26乗回超(全般)+ 年間総収入5億ドル超(大手の追加義務) |
| 規制の性格 | SB1047(2024年、拒否)重大な害の防止義務、損害賠償責任 | SB53(2025年、成立)安全性フレームワークと透明性レポートの開示義務 |
| 違反時の扱い | SB1047(2024年、拒否)開発企業への法的責任 | SB53(2025年、成立)開示・報告義務やフレームワークの不履行に、1件あたり最大100万ドルの民事罰 |
| 知事の判断 | SB1047(2024年、拒否)拒否権行使(2024-09-29) | SB53(2025年、成立)署名により成立(2025-09-29) |
SB53は、一律の技術的基準を課す設計を捨て、企業がすでに自主的に行っている情報公開を法的な義務に格上げする方向に絞り込んでいます。立法府自身も条文冒頭の前文で、主要なAI開発企業はフレームワークの作成・公表を業界のベストプラクティスとして自主的に始めているものの、報告の一貫性や十分性は企業ごとにばらつくと認めています。義務化の狙いは、その揃っていない報告を「標準化された客観的な報告」に置き換えることです。
SB53が義務づける5つの要件
Anthropicの支持表明が挙げる要件は次の5点です。右の列には、成立した条文(ビジネス・職業法典22757.12〜22757.15条など)に書かれている細部を添えます。
| 要件 | 条文に書かれている細部 |
|---|---|
| 安全性フレームワークの公開 | 条文に書かれている細部公開と順守が義務。10項目の記載事項があり、年1回の見直しと、重要な変更から30日以内の変更理由つき再公開も定められている |
| 透明性レポートの公開 | 条文に書かれている細部新モデルの投入前か同時に公開。システムカードなど大きな文書の一部として載せても要件を満たす扱い |
| 重大インシデントの報告 | 条文に書かれている細部発見から15日以内に州の緊急事態対応局(OES)へ。死傷の差し迫った危険があるときは24時間以内に法執行機関などへ |
| 内部告発者の保護 | 条文に書かれている細部報復の禁止に加え、大手には匿名で社内通報できる窓口の設置を求める |
| 説明責任と罰則 | 条文に書かれている細部違反1件につき最大100万ドル。執行できるのは州司法長官だけ |
表の2行目で重要なのは、システムカードやモデルカードに必要事項を載せれば足りる点です。Anthropicがモデルごとに公開してきたシステムカードは、そのまま法令対応の置き場になり得ます。
Anthropicはこれまで、Responsible Scaling Policyを公開しながら8回改定してきました。Google DeepMind・OpenAI・Microsoftなど他の主要開発企業も、類似の枠組みを採用しています。SB53は、こうした自主的な取り組みを法的な義務として一段引き上げる法律です。
対象は2段階 — 「フロンティア開発者」と「大手」
SB53の対象は1段ではなく2段です。誰にどの義務が及ぶかは、計算量(10の26乗回超)と前年の年間総収入(5億ドル超、関連会社を合算)の2つの基準で決まります。
義務を負う範囲の違い
フロンティア開発者
10の26乗回を超えるモデルを学習した(または学習を始めた)者です。基本項目の透明性レポート(ウェブサイト、連絡手段、リリース日、対応言語、出力の形式、想定用途、利用上の制限)を公開し、重大インシデントをOESへ報告します。
大手フロンティア開発者
上記に加え、フレームワークの公開と順守、レポートへのリスク評価の要約の記載、内部利用モデルの評価要約のOESへの提出、匿名の社内通報窓口の整備が必要です。罰則の対象もこの層に限られます。
収入が5億ドルに届かなくても、対象になり得ます。
計算量は、元の学習だけでなく、その後のファインチューニングや強化学習による改変分も合算して数えます。公開先も2種類に分かれます。フレームワークと透明性レポートは自社サイトに載せる義務です。内部利用モデルの破局的リスク評価の要約は、OESへ非公開で3か月ごと(または書面で伝えた別の妥当な周期)に出します。外部公開と規制当局だけへの提出を分けているのは、企業秘密に触れる詳細まで一律に公開させないためと読めます。
「破局的リスク」と「重大インシデント」の線引き
開示義務の中身は、条文が定義する2つの語で決まります。ここは読み飛ばされやすい部分です。
破局的リスクは、単一の出来事で50人超の死傷、または10億ドル超の財産被害に実質的に寄与しうる、予見可能で重大なリスクです。条文はそれを次の3類型に絞っています。
- 化学・生物・放射性物質・核兵器の作成や放出に専門家レベルの支援をすること
- 人間による実質的な監督なしにサイバー攻撃を行うこと、または人間が行えば殺人・暴行・恐喝・窃盗にあたる行為を行うこと
- 開発者や利用者の制御を逃れること
他方、除外も明記されています。生成モデル以外の情報源からほぼ同じ形で入手できる情報の出力、連邦政府の適法な活動、他のソフトウェアとの組み合わせで生じた害のうちモデルが実質的に寄与していないものは、破局的リスクに含まれません。
重大インシデントは4種類です。モデルの重みへの不正アクセスや持ち出しで死傷が生じた場合、破局的リスクが現実化した害、モデルの制御喪失で死傷が生じた場合が3つです。4つ目は、評価を目的とした場面の外で、モデルが開発者を欺いて統制や監視をかいくぐった場合です。破局的リスクが実質的に高まったことを示す挙動に限ります。最後の類型は、評価用に引き出した欺瞞的な挙動を含みません。
開示しなくてよい情報と、罰則が及ぶ範囲
条文は、企業が公開文書から黒塗りできる範囲を定めています。営業秘密、サイバーセキュリティ、公共の安全、米国の国家安全保障の保護に必要な部分、または他の連邦法・州法の順守に必要な部分は、伏せて構いません。伏せたときは、その性質と理由を、許される範囲で公開版に書き、伏せた原文を5年間保存します。
罰則の範囲は、Anthropicの支持表明の「フレームワークの約束に責任を負う」より広く書かれています。条文が民事罰の対象とするのは、大手が次のいずれかに当たる場合です。
- 公開・提出すべき文書を、要件を満たす形で公開・提出しない
- 破局的リスクの管理や、フレームワークの実施・順守について、重大な虚偽または誤解を招く表明をする(善意で、状況に照らして合理的だった表明は除く)
- 重大インシデントを報告しない
- 自社のフレームワークに従わない
上限は違反1件あたり100万ドルで、重大性に応じて額が決まり、訴えを起こせるのは州司法長官だけです。
連邦法との関係にも仕掛けがあります。OESは、重大インシデント報告について実質的に同等以上の基準を課す連邦の法令やガイダンスを、規則で指定できます。指定されたとき、開発者が意思をOESに申告すれば、その連邦基準を満たす限り州の報告義務も満たしたものとみなされます。連邦側の基準を満たさなくなれば、州法違反として扱われます。連邦レベルでの対応を望むAnthropicの立場と、州法が先行して走る現実の間に、条文自身が接続口を用意している形です。
重大インシデントの報告や社内の通報は、カリフォルニア州公文書公開法の対象から除外されています。OESは2027年1月1日から毎年、匿名化・集計した重大インシデントの報告書を議会と知事に提出します。
報告には柔軟な部分もあります。重大インシデントの初回報告のあとで判明した情報は、修正報告として出せます。フロンティアでない基盤モデルの重大インシデント報告や、業界水準を超える開示は、義務ではなく推奨の位置づけです。
州法が他の規制と衝突する場面も、条文は想定しています。市や郡などの地方自治体が2025年1月1日以降に定めた、フロンティア開発者の破局的リスク管理に関する規則は、この法律が優先します。一方、連邦政府との契約と衝突する範囲や、連邦法に先占される範囲には適用されません。
成立から施行後までの日程
法案が動いた日付を並べると、次のようになります。
SB1047の拒否からSB53の施行後まで
- 2024-09-29SB1047を知事が拒否
一律の技術基準と実証分析の不足が理由とされた。
- 2025-01-07SB53が提出される
立法履歴上の最初の記録は2025年1月7日の提出。その後、上院で2月27日・3月27日・5月23日、下院で7月8日・7月17日・9月2日・9月5日に修正された。
- 2025-09-08Anthropicが支持を表明
成立の3週間前。
- 2025-09-29知事が署名し成立
SB1047の拒否からちょうど1年後の同じ日付。
- 2026-01-01施行
条文に施行日の規定はなく、通常の州法として翌年1月1日から効力を持つ。
- 2027-01-01最初の見直しと報告
州技術局による定義の見直し勧告、OESと州司法長官の年次報告が、この日付までに、またはこの日付から始まる。CalComputeの報告書も同日が期限(予算措置が前提)。
2027年1月1日に始まる州技術局の勧告は、次に挙げるAnthropicの要望のうち3つ目と関わります。
Anthropicが求めた3つの改善点
支持表明の後半で、Anthropicは法案をそのまま礼賛していません。今後構築を進めたい領域を3つ挙げています。
第一に、規制対象を計算量(FLOPS)だけで線引きする点です。10の26乗回は妥当な出発点だとしつつ、強力なモデルが基準から漏れるリスクは残ると指摘しています。
第二に、テスト・評価・緩和策についてより詳細な開示を求める点です。根拠は、Frontier Model Forum(主要なAI開発企業が参加する業界団体)を通じた共有の経験です。安全性研究やレッドチーム試験を共有しても、取り組みは弱まらず強まるとAnthropicは述べています。
第三に、規制がAI技術の進歩とともに更新できなければならない点です。規制当局に更新の権限を持たせるべきだという主張で、10の26乗回を固定したままにすると数年後には陳腐化しかねないという問題意識がうかがえます。
条文の側を見ると、第三の点に部分的に応える仕組みがあります。州技術局が2027年1月1日までに、その後は毎年、「フロンティアモデル」「フロンティア開発者」「大手フロンティア開発者」の定義を更新すべきかを評価し、議会へ勧告します。勧告では、国際標準や連邦法の類似の基準との整合、学習や展開の前に対象かどうかを判断できるか、第三者が対象かどうかを検証できるかといった点が考慮事項です。ただし条文が定めているのは勧告の提出までで、定義を書き換える権限は州技術局に与えられていません。
Claude利用者にとってSB53は何を意味するか
SB53はカリフォルニア州法です。条文が義務づけるのは文書の公開と報告で、Claudeの機能や料金プランに関する規定はありません。ただし、Anthropicのような対象企業に安全性フレームワークと透明性レポートの公表を法的に義務づける以上、意味合いは無視できません。
Anthropicはこれまでも、的を絞った規制を主要国政府に求める提言やNISTへの資金拡充提言で「測定・開示を先に固める」路線を主張してきました。SB53は、この路線を任意の自主基準から法的義務へと裏付けを強める動きの一つです。
読者の立場によって、条文との距離は次のように変わります。
- Claudeを業務で使うだけの場合: 条文が義務を課すのは、フロンティアモデルを学習した(または学習を始めた)者です。利用側に直接の義務は書かれていません。
- 従業員の立場から見る場合: 全フロンティア開発者には、従業員への権利の通知(職場掲示または年1回の書面)が義務づけられます。大手には匿名の通報窓口があり、通報者への月次の進捗連絡と、四半期ごとの役員・取締役への共有も求められます。
- 自社でモデルを学習している場合: 学習に使う計算量が10の26乗回を超える見込みがあるかが最初の分岐です。
- 前年の年間総収入が5億ドルを超える場合: 関連会社を含めて合算します。超えると、フレームワークの公開と順守、罰則まで一式の対象です。
Anthropicが公開する安全性フレームワークやシステムカードは、従来は自主的な広報資料でした。今後は法令上の開示書類としての側面も帯びていきます。
まとめ
SB53は、Anthropicのような大手に開示と報告の義務を課す一方で、技術設計そのものには踏み込まない法律です。自分の立場を測る物差しは、学習計算量(10の26乗回)、年間総収入(5億ドル)、モデルを作る側か使う側かの3点です。罰則がどこまで効くかは、2027年1月以降に出るOESと州技術局の報告が最初の公式な材料になります。