AnthropicがNISTへの投資拡大を提言した理由

Anthropicが求めたのは「規制」より先の「測定」への投資

Anthropicは2023年4月20日、政策提言「An AI Policy Tool for Today: Ambitiously Invest in NIST」を公開しました。狙いはAI規制そのものではありません。規制の前提になる「測定」の担い手であるNIST(米国の技術標準を管轄する政府機関、正式名称National Institute of Standards and Technology)への予算増額を求める内容です。

具体的な要求額は、2023会計年度からの増額分として1,500万ドル。この中にはNIST自身が要求していた500万ドルの増額分も含まれており、Anthropicはそれを上積みする形でAI関連プログラムへの追加投資を連邦議会に呼びかけました。

論拠はシンプルです。AIシステムの能力とリスクを正確に測れなければ、実効性のある規制も設計できない。提言は測定を「効果的な規制の前提であり、それを可能にするもの」と位置づけ、「測れないものは管理しにくい」と述べています。

なぜNISTだったのか — 測定インフラの実績と手薄な予算

NISTは100年以上にわたり計測基準づくりを担ってきた機関です。AI分野でもすでに実績があり、顔認識システムの精度を検証する「Face Recognition Vendor Test」や、リスク管理の枠組み「AI Risk Management Framework(AI RMF)」を整備してきました。手書き数字認識で知られるデータセットMNISTも、NISTが収集した手書き文字データベースが基になっています。

Anthropicはこの実績を根拠に据えました。提言はNISTを、測定の仕事を続けるうえでの「自然な担い手」と位置づけています。

一方で、提言に添えられたグラフは、2020年から2024年にかけてのNISTのAI関連予算が停滞していたことを示しています。AIシステムの公開と実用化が急速に進んだ時期と、担当機関の予算停滞が重なっていた格好です。Anthropicはこれを「過小投資」にあたる状況と見ていました。

提言の公開は、4月18日に開かれた商務省の2024会計年度の予算要求をめぐる公聴会の2日後です。公聴会では技術分野での米国のリーダーシップ維持に超党派の支持が示されており、提言はその支持の受け皿として連邦予算の増額を挙げています。

測定インフラが担う5つの役割

提言は、測定・標準づくりへの投資が社会にもたらす効果を5点挙げています。

Anthropicはこれを「ポートフォリオ・アプローチ」と呼びました。測定基盤だけで全リスクが解決するとは位置づけていません。開発企業内部のガバナンス、独立組織による定期監査、公共の利益に基づく規制・立法と組み合わせて初めて機能する一要素という説明です。

増額分の使い道として挙がっているのが、コミュニティで共有できる「テストベッド」(評価用の共通基盤)の整備です。共通の評価環境は、どの企業のシステムも同じ物差しで比べられる土台になります。認証市場の形成とも表裏の関係と読めます。

過去の予算の推移と具体的な投資案の詳細は、提言に先立ってまとめた政策メモにあります。ブログ側は概要で、詳細は別文書という二段構成です。上院商務・科学・運輸委員会での証言や政府の意見募集へのコメントなど、Anthropicが重ねてきたNIST支持の延長にあたります。

提言のその後 — AI Safety InstituteからCAISIへ

あゆみ

提言から現在まで

1. 2023年4月20日Anthropicが提言を公開

   2023会計年度から1,500万ドルの増額を求めました。

2. 2023年AI Safety Instituteの設立

   NIST内にAI Safety Instituteが設けられました。

3. 2023年11月2日コンソーシアム参加者の募集

   連邦官報で、AI Safety Institute Consortiumへの参加を募る告知が出ました。

4. 2024年8月29日AnthropicとOpenAIが協定

   公開前後のモデルへのアクセスを定めた覚書が結ばれました。

5. 2025年6月CAISIへ改称

   2025年6月に任務が見直され、AI Safety Instituteが「Center for AI Standards and Innovation」に改称されました。

発足の枠組みは、Anthropicが求めた「測定を担う組織への投資」と重なります。連邦官報の告知によると、コンソーシアムは非営利団体・大学・政府機関・企業から、評価に使える技術・データ・モデルを持ち寄る場です。選ばれた参加者はNISTと共同研究の契約(CRADA)を結びます。

2024年8月の協定では、AnthropicとOpenAIがそれぞれ覚書を交わしました。NISTの発表によれば、AI Safety Instituteは各社の主要な新モデルに、公開の前後でアクセスできます。評価手法の共同研究に加え、英国のAI Safety Instituteと連携して、モデルの安全性を高める助言も各社に返す計画でした。提言が挙げた「独立した第三者による検証」が、Anthropic自身のモデルを対象に形になった例です。

改称では、名称から「Safety(安全性)」が外れ「Standards and Innovation(標準とイノベーション)」に置き換わりました。IFPの脚注によれば、この見直しで任務は国家安全保障上のリスクと海外の動向に重心を移しました。

NISTの現在のサイトは、この組織を「Center for Advancing Innovation and Standards for Super Intelligence(CAISSI)」の名で掲げています。業界が商用の超知能システムをテストし共同研究するときの、政府内の窓口という位置づけです。同じページの最新の発表には、CAISIの名義のものが並んでいます。

予算は提言の水準に届いたのか — CAISIの現在地

予算の数字は、性質の違うものが並ぶので読み分けが要ります。以下の数字は、民間シンクタンクIFPが2026年5月13日に出した試算(What Will It Cost for the US to Be Ready for the Next Big AI Breakthrough?)によります。

くらべる

2つの1,500万ドルは別のもの

増額分

Anthropicの提言(2023年)

2023会計年度の予算に上乗せする額が1,500万ドルです。組織の総額ではなく、増やす幅を指します。

総額

CAISIの運営予算(FY2026)

IFPによれば、約1,500万ドルです。内訳は2026会計年度の歳出1,000万ドルと、Technology Modernization Fund(連邦のIT近代化基金)からの1,000万ドルの融資で、融資は2025〜2026会計年度にまたがります。

同じ1,500万ドルが並んでも、提言の水準が実現したことにはなりません。

IFPは、AI行動計画(2025年7月)がCAISIに割り当てた業務を4つに分け、それぞれの費用を見積もりました。

数字

IFPが見積もったCAISIの業務別費用(年額)

• AI評価と標準の開発

  $24.6M

  最大の項目。評価の整備は初期に人員が集中する

• 動向の継続監視と評価の実行

  $13.7M

  オープン・独自・国内・海外のモデルを対象にする

• 成果の発信と国際標準・産業との調整

  $10.2M

  米国の標準が国際標準になるための活動

• 最先端のAI人材の政府内への招致

  $3.5M

  技術職の給与は1人あたり約19万5千ドルで試算

これに対し、最低限の「限定版CAISI」は年2,600万ドルと見積もられています。限定版は基本的な評価と基準づくりまでで、産業界や海外との連携は限られます。

2027会計年度の大統領予算要求は、CAISIに2,700万ドルです。内訳は基本1,100万ドルと、最先端AIの迅速なテストや中国製モデルの評価などに向けた拡張1,600万ドル。NIST全体の重要・新興技術向け要求1億7,300万ドルの内数です。IFPはこれを、限定版の見積もりにほぼ沿う額と評価しつつ、Mythos PreviewとGPT-5.5の公開前にまとめられた数字で、フル装備には足りないとしています。

IFPが予算の不足を急ぐ理由に挙げたのは、Claude MythosとGPT-5.5の公開直後の対応です。ホワイトハウスは省庁横断のタスクフォースを急ごしらえし、サイバーセキュリティ・インフラストラクチャ安全保障庁(CISA)はMythosへのアクセスを公開から数週間たっても得られていませんでした。測定の担い手が手薄なままだと、こうした場面で政府が後手に回るという主張です。

不足を埋める道筋として、IFPは次を挙げています。

• 議会による2027会計年度の歳出の増額
• EPIC法によるNIST財団の創設(産業界や慈善団体が、人材プログラムなどで資金を出せる非営利の受け皿)
• NISTの科学技術研究・サービス勘定(約11億ドル。IFPは約7割に裁量の余地があるとみる)からの振り向け
• 商務省の非経常経費基金の活用

IFPは、米国が英国のAI評価機関と同じ割合を政府予算から割いた場合、年間8億5,000万ドルになるとも試算しています。8,400万ドルでも、比率で見れば英国より小さい規模という見立てです。

NISTへの投資提言は、その後のAnthropicの規制姿勢に何を残したか

この提言はClaudeの機能や料金に直接影響するものではありません。ただ、Anthropicの姿勢の起点を示す材料になります。同社はResponsible Scaling Policyの改定を重ね、モデルごとにシステムカードを公開し、的を絞った規制を主要国政府に求めてきました。その発想の一端が、2023年の「測定が先」という主張にあります。

カリフォルニア州のAI開示規制法(SB53)への支持も、測定と開示を先に置く発想の延長にあります。2023年のNIST提言が連邦レベルの測定インフラを求めたのに対し、SB53の支持は州レベルの開示義務に向いたものです。手段は測定と開示で共通し、担う主体は連邦機関にも州法にも広がっています。

IFPの試算と合わせると、もう一つの論点が浮かびます。測定の担い手を作ることと、担い手に十分な予算を付けることは別の課題で、後者は提言から3年以上たった今も途上にあります。

まとめ

2023年の提言が求めたのは規制の強化ではなく、測定を担う機関への投資でした。その求めに沿って発足したAI Safety Instituteは、今のCAISIにつながっています。ただし、運営予算は試算上のフル装備に遠く、2027会計年度の要求でも3分の1に満たない水準です。Anthropicの安全性への取り組みを読むときは、測定の仕組みそのものと、それを支える公的予算の厚みを分けて見ると、判断材料が整います。