AIで科学モデルを構築する三段階 — 一つの正解を出さない設計

AIに科学モデルを作らせるとき、最も危ういのは「データに合う式が一つ出てきた」時点で満足することです。ELLIS Institute Tübingenの研究者Jakob Macke、Daniel Gedon、Stefan Wahlは、AI for Scienceの助成対象者としてこの点を論じた寄稿を、Anthropic Researchに2026年11月6日に公開しました。主張は一つに絞れます。モデルを作る段階も、パラメータを決める段階も、一つの最良解ではなく「データと矛盾しない候補の分布」を返すべきだ、というものです。

背景 — 1951年のHodgkin-Huxleyモデルが残した教訓

寄稿は、神経細胞の発火を説明したHodgkin-Huxleyモデルの話から始まります。1951年、ケンブリッジ大学の計算機が6か月止まり、Huxleyは方程式を手回しの機械式計算機で解きました。かかったのは3週間超です。

モデルの骨格は細胞膜を電気回路と見なす形で、既知の事実から決まりました。一方、ある変数を4乗する部分だけは、データに合わせるために入れた経験的な選択でした。当時は理由が分からず、膜の「ゲート」が開くには複数の荷電粒子が動く必要があるのではないか、という控えめな仮説が添えられていました。

数十年後、関連するカリウムチャネルのタンパク質構造が決まり、同一の4つの部品が中央の孔を囲む形だと分かりました。モデルは構造を知らないまま、構造を言い当てていたことになります。

著者らが引き出す教訓は、4乗でうまく合ったという事実ではありません。単純な式ではうまく合わないと確かめたことです。再現できるモデルは無数にあり、データを再現しただけでは、実際の系について何かを言えるとは限りません。導入部の締めくくりにはHammingの「計算の目的は数ではなく洞察」という言葉が引かれています。

科学モデルを作る・絞る・解釈する三段階

著者らはHodgkin-Huxleyの進め方を三つに分けています。

手順

科学モデリングの三段階

1. 1

   作る

   モデルが何で構成され、方程式がどんな形を取るかを決めます。回路の部品やゲート、4乗という形がここに入ります。

2. 2

   絞る

   調整可能なパラメータを実測に合わせます。電圧ごとのゲートの開きやすさなどの設定値です。

3. 3

   解釈する

   モデルが実際の系について何を言うかを問います。4乗は「ゲートに4つの可動部品がある」と読まれました。

実際の研究では、この三つを何度も行き来します。数値が合わなければ戻り、解釈が筋の通らないものなら戻ります。かつてすべて人の手だった三段階に、いまはAIが入り込んでいます。最も進んでいると言えるのは「絞る」で、説明もそこから始まります。

絞る段階 — 食事代の割り勘と、シミュレーションに基づく推論

最適な一組のパラメータを示すだけでは足りない理由を、寄稿は割り勘で説明します。合計が120ドルと分かっていても、全員が中価格のハンバーガーを頼んだのか、一人がステーキとロブスターで残りはスープだったのかは分かりません。神経細胞のモデルでも、ゲートのパラメータの組み合わせが違って、ほぼ同じ電気活動になることがあります。

統計の定番の解はベイズ推論です。うまく合うパラメータの組をすべて、確率分布として返します。ただし、あらゆるパラメータの組で観測値がどれだけ起こりやすいかを計算する必要があり、複雑なモデルでは現実的でなくなります。

そこで使われるのが、シミュレーションに基づく推論(SBI)です。手順は次のとおりです。

1. パラメータをランダムに選び、モデルを動かして出力を記録する
2. これを何度も繰り返す。Hodgkin-Huxleyでも約10万回、大きなモデルでは数百万回に及ぶ
3. 結果でニューラルネットワークを訓練し、出力からそれを生みうるパラメータの範囲を返せるようにする

必要なのは、パラメータを入れるとデータが出る「シミュレーター」として動かせることだけです。観測値の起こりやすさを式で書く必要がありません。シミュレーターは今ではプログラムが普通ですが、手回し計算機で方程式を回したHuxleyも、広い意味でシミュレーターを動かしていたことになります。

先に大量のシミュレーションを回す費用は大きく、数週間かかることもあります。しかし訓練が済めば、新しいデータへの推論は追加のシミュレーションなしで数秒で終わります。中性子星の合体がどの方向で起きたかを、信号が残っているうちに望遠鏡を向けられる速さで割り出せるのも、この性質のおかげだと寄稿は述べています。宇宙論や構造生物学、地球物理学でも応用が進んでおり、神経細胞モデルにも使われています。分布が返るので、データでよく決まるパラメータ、複数の説明が残るパラメータ、次に実験を足すべき箇所が見分けられます。

作る段階 — LLMエージェントがモデルの形そのものを書く

パラメータを絞る前に、絞る対象のモデルが要ります。Hodgkin-Huxleyの式は第一原理から導かれたものではなく、生物学的な洞察と、単純な式では合わないという経験から生まれました。人が経験に基づいて候補を書き、試し、直す。この進め方が長く続いてきました。

ここにAIが入ります。データと系の自然言語による説明を与えると、LLMベースのエージェントが候補モデルのコードを書きます。実行し、パラメータを絞り、実データと出力を比べ、方程式の形を直す。この繰り返しを、データを十分再現するまで続けます。寄稿によれば、似た仕組みはこの2年で複数登場しています。モデルの設計は人にしかできないと見られていた領域でした。

一つのモデルを返すエージェントは、残りを隠している

ただし、データを再現しただけでは洞察になりません。パラメータの組と同じことが、モデルの形でも起きます。同じデータで同じエージェントを2回走らせると、形の異なる、同じくらい良いモデルが返ることがあります。一つだけ返すエージェントは、残りを隠しているのです。

著者らの提案は、モデルを作る段階も「絞る」段階と同じ扱いにすることです。

• AIが多数の候補を提案する
• 各候補をデータの支持の度合いで重み付けする。無理な調整で合わせたモデルより、自然に合うモデルに高い評価を与える
• 弱い候補は落とし、強い候補の変種を新たに提案する

こうして返るのは、もっともらしいモデルの分布です。生き残ったモデルすべてが共有する特徴は、データが支持している可能性が高い。生き残りの間で意見が割れる箇所は、証拠が薄い場所で、次の実験の向き先を示します。

慎重な但し書きも付いています。これらのシステムはおもに、すでに知られているモデルの再発見で試されてきました。答えが未知の問題で機能する証拠は乏しい、という立場です。新しいLLMほど研究タスクの成績は上がっているため、改善は見込めるとしています。

解釈する段階 — 最も手放しにくい工程

作って絞ったモデルも、実際の系について何を言うのかを読み解く必要があります。Hodgkin-Huxleyの「4つの粒子」という解釈が説得力を持ったのは、単純な式が通用しなかったからでした。3乗か4乗が必要で、4を選んだという不確かさも、論文には書かれています。さらに高い次数のほうがわずかに合う可能性があるが、複雑さに見合う改善とは見なさなかった、という趣旨の記述です。

方程式からは他の帰結も導かれました。発火しきい値の存在や、神経パルスの形がいつも同じになること、十分にゆっくり増える電流では発火しないこと、などです。科学哲学ではこのように、動かさなくても帰結を導ける理論を「理解可能」と呼びます。変数が数千ある大きなモデルでは、再構築に足りる少数の力学的な考え方へ煮詰められるかどうかが、同じ問いにあたります。

三段階のうち、解釈はAIに最も渡しにくい工程だとされます。適合度は測れても、「理解が深まったか」は測れず、AIに理解を目的として与える方法も分かっていないためです。提案は二つ挙がっています。

くらべる

理解をどう評価するか

案1

介入への予測で測る

系に手を加えたときに系がどう振る舞うかを、AIがどれだけ正しく予測できるかで評価します。

案2

人の理解に役立つかで測る

理解そのものを問わず、出力が人間の科学者の理解を助けるかを評価します。

案2の例として、量子実験を設計するAIが挙がっています。一つの実験配置を出す代わりに、関連する実験群の配置を生成する短いプログラムを書くよう訓練されたものです。物理学者は、一つの配置から逆算せずとも、プログラムから設計原理を読み取れます。

どちらの案でも、最良の一つでなく、条件に合うモデルの分布を持つことが前提になります。単一モデルでは、どの部分がデータで決まっているかが分かりません。決まっていない部分に意味を読み込んでしまう恐れがあります。分布があれば予測も頑健になります。ナトリウムゲートをすべて塞ぐ場合は、どのモデルも同じ答えを返すでしょう。一部だけ塞ぐ場合に答えが割れれば、それが次の実験の着想になります。

規模が変わると、問いも変わる

有名なモデルは、人が書き、絞り、解釈できる大きさに収まっていました。コンパクトだったのは偶然ではなく、その小ささが理解可能性の源でもありました。AIが作業を担うほど、この大きさの制約は緩みます。

脳が典型例です。Hodgkin-Huxleyの式が記述するのは神経細胞1個ですが、ショウジョウバエの脳には10万を超える神経細胞があり、人間の脳には数百億個あります。ハエでは全神経細胞とその結線を示す配線図が揃い、視覚系の神経活動を予測する大規模モデルの構築も始まっています。配線だけから行動はどこまで予測できるのか、どの結合が実際に効くのかといった問いが、現実的になりつつあります。

この規模では、唯一の正しいモデルは見つかりません。著者らは多くの場合そもそも存在しないと述べ、Boxの「すべてのモデルは間違っているが、いくつかは役に立つ」を引きます。問いは「どれが正しいか」から、「データと合うモデルすべてが共有する性質は何か」「そこから導ける予測は何か」に変わります。最も有用な実験は、人間の科学者が面白いと感じるものとは限らず、残るモデルを最も多く排除するものになります。

これは神経科学だけの話ではありません。気候科学者は前提を少しずつ変えた巨大な数値シミュレーションを多数作り、予測を全体の広がりとして報告します。大型ハドロン衝突型加速器の素粒子物理学者も、新粒子を探すとき理論の成否を宣言するのではなく、データが排除した理論と残った理論の地図を作ります。

AIの研究成果物に「落とした候補」の記録が要る理由

Anthropicの科学関連の発信で、この寄稿は製品でもプログラムの告知でもなく、研究方法そのものへの注文です。落とした候補の記録が成果物に必要になる理由は、過去の記事と並べるとはっきりします。

Claude-shaped scienceの記事では、Claudeが勝利宣言をする場面をどう止めるかが焦点でした。今回の寄稿は、同じ問題を別の側から見ています。AIが一つの答えを自信ありげに返すこと自体が、情報の欠落だという指摘です。止める仕組みを人の注意力に頼るか、返す形式の側(分布)に組み込むかの違いがあります。

製品側では、Claude Scienceの監査可能な成果物が、再現性の担保を成果物の記録で支えています。寄稿が求めているのは、それと補い合う中身です。どの部分がデータで決まり、どこが未決で、どの代替案が失敗したか。この「失敗した代替案」の記録は、再現性のためのログだけでは埋まりません。モデルの候補をどう探索し、何を落としたかを、成果物の一部として残す設計が要ることになります。

もう一つ、UV全天マップの事例のように、観測されていない領域を機械学習で補う研究では、補った値の確からしさをどう示すかが同じ形の課題になります。データと矛盾しない候補の幅を示す発想は、モデル構築に限らず、補間や予測の報告にも当てはまりそうです。

助成の側から見ると、この寄稿の書き手はAI for Scienceの助成対象者です。プログラムの対象拡大はAI for Scienceの財団・研究機関への拡大で、全体像はAnthropic Scienceの解説で扱っています。助成が実際にどんな研究方針につながっているかを知る材料として、この寄稿は使えます。

まとめ

Hodgkin-Huxleyは、モデルを作り、絞り、解釈する三段階を、手回し計算機での3週間と、失敗した代替案の積み重ねで通りました。AIは、同じ作業の多くを午後のうちに終えられるようになりつつあります。ただし寄稿の結論は、速さではありません。得るべきは、データに合うモデルの一つではなく、どの部分がデータで決まり、何が未決で、どの案が失敗したかという説明です。

この主張が検証されるのは、これからです。寄稿自身が、既知のモデルの再発見が中心で、未知の問題での証拠は乏しいと認めています。分布で返すエージェントが、答えのない問題でどこまで実験の優先順位づけに役立つかが、次の見どころになります。