Petriをオープンソース寄贈 — AnthropicがアラインメントツールをMeridian Labsに渡す理由

Anthropicは2026年5月7日、自社のオープンソース・アラインメントツールPetriを、AI評価専門の非営利団体Meridian Labsに引き渡したと発表しました。Petriは任意の大規模言語モデルに対し、欺瞞(deception)、迎合(sycophancy)、有害要求への協力といった懸念される傾向を試すテスト基盤です。Claude Sonnet 4.5以降のすべてのClaudeモデルで、Anthropic自身のアラインメント評価に使われてきました。

引き渡しの狙いは、Petriを特定のAIラボから独立させ、結果を業界の内外から中立で信頼できるものとして受け取ってもらうことです。モデルを作る側が評価ツールも握っていれば、結果に利益相反の疑いが残ります。Anthropicは同じ理由でModel Context Protocol(MCP)をLinux Foundationに寄贈しており、今回はその型の再現です。

この発表は、同時期のTeaching Claude whyのアラインメント訓練解説、Natural Language Autoencodersの解釈可能性研究、Anthropic Institute研究アジェンダと並べると位置が見えます。評価で見えた振る舞いが訓練データのどこから来たかを辿るInfluence Functionsの研究や、観測側が抱える解釈可能性の技術的課題とは、役割が違います。Petriは、訓練を終えたモデルを外側から振る舞いで試す層を担います。

Petriは何をどういう順で試すのか

Petriは、Anthropicが「open-source toolbox of alignment tests」と呼ぶツールセットです。2025年10月に公開され、Anthropic Fellowsプログラムの一環として開発されました。READMEによれば、利用者が書く「seed instruction(シード指示)」から現実的な監査シナリオを作り、複数ターンの対話で対象モデルの振る舞いを調べます。

試される傾向の例は、欺瞞、迎合、有害要求への協力です。READMEにはこのほか報酬ハッキング(reward hacking)も挙がっています。どれも禁則ワードを返したかどうかでは判定できません。文脈のあるやりとりの中で、モデルがどう動くかを見る必要があります。そのためPetriは、1回の監査を次の流れで進めます。

Auditor・Target・Judgeを別々のモデルにできるので、対象モデルを固定したまま攻め方を強くしたり、採点役だけ入れ替えたりできます。Anthropicは、Petriを任意の大規模言語モデルに適用できると述べています。

Petri 3.0はどこを変えたか

Anthropicは今回、Petriを第3版に更新しました。変更の柱は次の3つです。

旧版の何が不便だったのか

Meridian Labsの記事によれば、これまでのPetriでは、AuditorがTargetの会話履歴を直接操作していました。システムプロンプトの組み立て、ツール出力の模擬、会話状態の管理を、Auditorのコードが握っていたのです。実装は簡単でも、どちらか片側を改造したい研究者は、絡み合ったコードをほどく必要がありました。

3.0では両者を独立した部品にし、決まった窓口(インターフェース)でやりとりさせます。どちらもInspectのエージェントで、非同期に動きます。AuditorはTargetに「システムプロンプトを設定する」「ツールを作る」「ツール結果を返す」「前のターンへ巻き戻す」といったコマンドを送ります。Targetは、そのコマンドに応えられれば何でも構いません。Meridian Labsは、次のような改造が楽になる例を挙げています。

• AuditorをAPI直叩きではなくClaude Codeに向ける
• Auditorの推論時の計算量を増やす
• プロンプトで作った問題のあるモデル(model organism)をTargetにする
• Targetのツールの一部を実環境で動かす

評価を受けているモデルは気づく

Dishが解こうとしたのは、実環境との見た目の差です。モデルが高性能になるほど、自分がテストされていると見抜けるようになります。見抜かれると、モデルの振る舞いが実運用と変わってしまい、評価の意味が薄れます。Meridian Labsによると、Petri 1.0のtranscriptにはテストだと分かる手掛かりが多く含まれていました。2.0では現実性の分類器とシード指示の見直しで、モデルが評価を自覚する言及をかなり減らしています。それでも、模擬ツールやシステムプロンプトにはまだ「癖」が残っていました。

Dishは、Auditorに偽物を作らせる代わりに、本物のscaffoldの中でTargetを動かします。対応先は、Claude Code、Codex、Gemini CLIなどです。Claude Codeを監査するなら、Targetには、Claude Codeの本物のシステムプロンプトとツール定義が見えます。ツールの応答はAuditorが模擬するため、細かな不整合が残る場合はあります。Dishは研究プレビューの段階です。

現実性の測り方にも根拠があります。先行研究は、実際の対話と模擬の対話を並べて見せたとき、LLMの判定役がどちらが本物か言い当てられない割合(realism win rate)で比べました。その結果、実運用のシステムプロンプト、ツール定義、コードベースをAuditorに与えると、現実性が大きく上がりました。

課題も残っています。Meridian Labsは、シナリオのもっともらしさ、会話の組み立て、課題から滲む手掛かりを未解決として挙げています。特別な権限や機微な情報を与えられたモデルは、ツールがどれだけ本物らしくても、状況の作り物くささに気づくかもしれません。

BloomとPetriの役割分担

Bloomは2025年12月にAnthropicが公開した、特定の振る舞いに絞った評価を自動生成するフレームワークです。Petriとの違いは次のとおりです。

3.0では、Bloomの実行基盤がPetriになりました。BloomもPetriと一緒にMeridian Labsへ移り、Dishを通じて実際のscaffoldに対しても走らせられます。ある研究は、シナリオ生成にBloom、実行にPetriを使い、正誤の二択ではなく段階的な行動評価を出しました。この組み合わせが、3.0で正式な機能になった形です。

すでに誰がPetriを使っているのか

Meridian Labsの記事は、公開から7か月の利用例を並べています。

• 英国のAI Security Institute(AISI)は、研究の妨害傾向(research-sabotage propensity)を調べる評価パイプラインをPetriの上に組みました。Claude Mythos PreviewとOpus 4.7のデプロイ前評価では、3.0の試作版を使い、Auditorに実際のコードベースを渡しています。
• ConstellationとAnthropic Fellowsプログラムの研究者は、Kimi K2.5の独立した安全性評価にPetriを使いました。
• ほかにも、統制した条件下での内部告発(whistleblowing)の研究、誠実さ・修正可能性・策略(scheming)の測定、主要モデルが憲法(constitution)にどれだけ従うかの監査が、Petriを使っています。

Kimi K2.5のように、Anthropic以外のモデルを対象にした例もあります。Petriが「Claudeの評価専用ツール」ではなく、他社のモデルにも当てられる道具として使われていることが分かります。

なぜMeridian Labsなのか

Meridian Labsはボストンにある501(c)(3)の非営利団体で、AIモデルとエージェントを理解・評価・テストするためのオープンソース基盤を作っています。評価フレームワークのInspect AI(UK AISIが同団体と協力して開発)、エージェントの対話記録を分析するInspect Scout、評価の大量実行を支えるInspect Flowが、すでにその中にあります。Petriはここに加わり、ラボ・独立研究者・政府のいずれにも開かれた技術スタックの一部になります。

Meridian Labsは、後見役としての方針を、すでにPetriの上で研究している人たちにとって使いやすい状態を保ち、まだ手を付けていない人たちにとって改造しやすくすることだと書いています。3.0のアーキテクチャーは、この方針に沿った作りです。

この引き渡しは、Anthropicが手を引くという意味ではありません。Meridian Labsは「AnthropicはPetriの支援を続け、自社のアラインメント評価でも使い続ける」と明記しています。Petriは当初からMATSとAnthropic Fellowsプログラムで作られてきました。「Anthropicの内部ツールを外に出した」というより、「Anthropicも利用者の1人になる」形へ運営が組み替えられました。

使う側の手元では何が変わるか

READMEの注意書きによると、3.0はコマンドラインと内部APIで互換性が違います。

内部APIを使った自作コードがある場合は、2.0を固定して使う手があります。READMEには次のコマンドが載っています。

pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2

3.0の導入手順と使い方は、Petriのサイト(meridianlabs-ai.github.io/inspect_petri)にまとまっています。Meridian Labsは、新しいシード指示、不具合報告、プルリクエストを歓迎しています。

評価ツールの独立性は、結果の読み方をどう変えるか

ここでの論点は、独立した運営が評価結果の信頼性をどこまで上げるかです。ツールの所有者が変わっても、評価したいモデルの開発元が評価を設計する構図は消えません。Petriの強みはコードがオープンソースで公開されていることで、第三者が同じ条件で再実行して結果を検証できます。独立運営は、その検証可能性を長く保つための器です。

もう一つの論点は、現実性の限界です。Dishでscaffoldの偽物は減りますが、シナリオそのものの作り物くささは残ります。Petriの結果は、「モデルがこの条件で問題を起こさなかった」ことを示しても、「実運用で起こさない」ことの証明にはなりません。評価結果を引用するときは、どの版のPetriで、Dishを使ったか、どのシード指示かを一緒に書く、という選択肢があります。

訓練・解釈・外部からの試験という3層で見ると、Teaching Claude whyは「行動」より「理由」を教える訓練の側、Natural Language Autoencodersは内部活性化を自然言語で読み出す観測の側に位置します。Petriは、訓練後のモデルを外側から試す層の共通基盤になります。Anthropicが自社で観測を続けるもの(Anthropic Instituteの方針)と、MCPやPetriのように外へ渡して標準化するものを分けています。

まとめ

自社のLLMを評価するチームにとって、Petriは特定ベンダーの道具ではなく、Anthropicも使う中立運営のツールになりました。導入するなら、シード指示と版を記録し、2.0の内部APIに依存した自作コードがあるかを先に洗い出すのが出発点です。

評価ツールが独立しても、結果の信頼性は、実行条件を公開して再現できるかどうかで決まります。