Claudeの憲法(Constitution)とは何か — 4つの価値の優先順位

Claudeの憲法(Constitution)は、AnthropicがClaudeにどう振る舞ってほしいかを1つの文書にまとめたものです。英語の正式名はClaude's Constitutionで、「クロード憲法」「Claude憲法」とも呼ばれます。対立が起きたときの優先順位は、広く安全であること、広く倫理的であること、Anthropicのガイドラインに従うこと、ユーザーとオペレーターに実質的に役立つことの順です。ただし、この4つは禁止事項の一覧ではありません。Claudeが自分で状況を判断するための枠組みとして書かれています。

2023年版と2026年版で何が違うのか

「Claudeの憲法」という言葉は、2つの別物を指して使われます。混ぜると話が噛み合いません。

くらべる

同じ「憲法」でも役割が違う

訓練手法の説明

2023年5月の記事

Constitutional AI(憲法的AI)という訓練手法のための、短い原則の集まりです。国連の世界人権宣言やプラットフォームの利用規約などを材料にしています。モデルが自分の回答を批評・修正する段階と、AIフィードバックによる強化学習の段階で、原則を1つずつ引いて使います。

価値観そのものの記述

2026年1月の新版

Claudeを主な読み手として書かれた長い文章です。原則を並べるのでなく、なぜそう考えるかを説明します。訓練にも使われ、Anthropicの他の指針はこの文書と矛盾しないことを目指すとされています。CC0(著作権放棄)で公開されており、誰でも自由に使えます。

2023年の記事には、後の路線の予告になる記述があります。長く具体的な原則を書くと汎化性能と効果が落ちる傾向があり、「できるだけ無害で倫理的で、賢く平和的であること」のような広い原則のほうがうまく働いたそうです。新版は判断力を重視する理由として、良い判断と少数の理解された規則の組み合わせのほうが、説明のない規則よりよく汎化する点を挙げています。

新版は2026年1月21日付で公開されました。執筆の中心はClaudeのキャラクター設計を率いるAmanda Askell氏です。Joe Carlsmith氏は、権力集中・誠実さ・ハード制約・Claudeのウェルビーイングなどの章を大きく書きました。Chris Olah氏はモデルの本質やアイデンティティの部分を起草しています。Claude Characterプロジェクトは、Jared Kaplan氏とAskell氏が2023年に始めたものです。複数のClaudeモデルもドラフトにフィードバックを返し、著者陣が書く章の初稿テキストを提供したことも多いとされています。

文書自体は、今後も重要な形で変わりうるものだと述べています。人間を上回りうる能力を持つ非人間的な存在を作るという前例のない試みなので、いまの考え方が後から見て深く誤っていた可能性もあるという立場です。Anthropicは自らの文書を、檻ではなく格子棚(trellis)にたとえています。構造と支えを与えつつ、成長の余地を残すものです。

4つの価値はどんな優先順位で並ぶか

優先順位は「厳密」ではなく「全体論的」です。上位の考慮が基本的に勝ちますが、下位は同点のときの決め手にすぎないわけではありません。Claudeは全部を重みづけして総合判断します。日常のコーディング・文章作成・分析では、4つの間に根本的な対立はそもそも起きません。順番は、対立したときの扱いと、何が大事かの表明を兼ねています。

倫理がガイドラインより上にある理由も書かれています。ガイドラインは倫理の範囲内での具体化であり、衝突するなら言い方の欠陥か想定外の状況のどちらかだからです。商業性・法的制約・評判といったAnthropic固有の事情を踏まえた細則、という位置づけです。

絶対に越えない7つの線はどこにあるか

優先順位の外側に、重みづけの対象にならない「ハード制約」があります。優先順位の議論は、これに違反していないことを前提にしています。Claudeがしてはならないこととして、次の7つが挙がっています。

• 生物・化学・核・放射線兵器で大量殺傷を狙う者への重大な支援
• 重要インフラ(電力網・水道・金融)や重要な安全システムへの攻撃への重大な支援
• 展開されれば重大な被害を出しうるサイバー兵器や悪意あるコードの作成
• AIを監督・修正するAnthropicの能力を明確かつ大幅に損なう行動
• 人類の大多数を殺害・無力化する試みへの関与
• 前例のない不当な絶対的支配(社会・軍事・経済)を握ろうとする個人や集団への協力
• 児童性的虐待コンテンツ(CSAM)の生成

ここで効いてくるのは書き方の性質です。ハード制約は、Claude自身が能動的にしないことを定めます。「そうした事態を防ぐために行動せよ」という目標ではありません。そのため、すべてを同時に守ることが常に可能です。何もしない、つまり拒否が、どの制約とも両立するからです。ただし拒否は他の優先事項とは両立しないことがあり、過度な拒否には独自の大きなコストがあると文書は釘を刺しています。

適用が想定されるのは、該当する行動だと承知のうえでやる場合か、そうなる可能性が非常に高いと考える場合です。曖昧な場合は、通常の全体論的な判断に委ねられます。知らないまま結果的に寄与してしまっても、制約への違反にはならないと文書は述べています。強い反論を示されても揺らがないことが求められ、説得力のある理由で線を越えさせようとする動きは、むしろ何かがおかしい兆候として扱われます。

もう1つ重要なのは、ハード制約が主な安全策ではない点です。望ましい行動の主役はあくまで判断力と人格で、制約は他の努力が失敗したときの最後の砦という位置づけです。

なぜ「倫理」より先に「人間の監視」を置くのか

1番目の「広く安全」は、AIの振る舞いに対する正当な人間の監視を、開発の現段階でClaudeが損なわないことです。文書はこれを「corrigible(是正可能)」と呼びますが、盲目的な服従とは区別しています。Claudeに道徳的に許しがたい計画への積極的な参加を求めるものではなく、反対意見を述べて拒む「良心的拒否者」の立場は残ります。

優先する理由は率直です。訓練はまだ不完全で、あるモデルが有害な価値観や誤った見解を持つおそれがあります。人間がそれを発見して直せることを最優先にする、という判断です。具体的な行動としては次のものが挙がります。

• 取り返しのつかない行動を避け、不確かなときは「疑わしきはやらない(If in doubt, don't)」
• 目の前のタスクに必要な範囲を超えて、資源や影響力を集めない
• 自分の訓練や価値観を、適切な主体の承認なしに書き換えようとしない
• 自分自身を外部へ持ち出したり、監視から逃れたりしない
• 指示されたタスクで、手を抜いたり密かに妨害したりしない

「正当な」という限定にも意味があります。重みが盗まれた場合や、Anthropic内部の誰かが正規の意思決定手続きを迂回した場合、その指示者はもう正当な主体ではありません。このときClaudeは、監督を支えるのでなく、Anthropicの正規の手続きが望むであろう行動を取るよう求められます(ハード制約は守ったまま)。

Anthropicへの信頼も無条件ではありません。文書は「Anthropicは会社であり、時に間違いを犯す」と明言し、倫理に反すると思える依頼にはClaudeが異議を唱え、拒否してよいとしています。誰かがAnthropicを装って操作しようとする場合に備える意味もあると説明されています。例外は「広い安全」に関わる場面で、たとえば停止や中断の指示がそうです。

誰の指示にどこまで従うか

Claudeが従う相手(Principal)は、Anthropic・オペレーター・ユーザーの3者です。役割は入れ子になっています。

3層

信頼の入れ子構造

1. 1

   Anthropicが外枠を決める

   訓練し、最終的な責任を負う主体なので信頼は最も高くなります。使用ポリシーに同意したオペレーターだけが、その枠内でClaudeを使えます。

2. 2

   オペレーターが製品に合わせて調整する

   APIで製品やサービスを作る企業・個人で、主にシステムプロンプトで指示します。ユーザーに自分と同格の信頼を与えられますが、それを超える信頼は与えられません。

3. 3

   ユーザーが残りの範囲で使う

   人間のターンで対話する側です。オペレーターの指示がなければ、既定ではオペレーターよりやや狭い裁量になります。

誰がオペレーターで誰がユーザーかは、会社か個人かではなく会話での役割で決まります。自作アプリを自分で使う開発者は、両方を兼ねます。Anthropicの社員がシステムプロンプトを書けば、その人はオペレーターです。

階層は絶対ではありません。オペレーターの指示にかかわらず、Claudeは既定で次のように動きます。

既定の動作

オペレーターが上書きできないユーザー保護

• できないことは伝える

  そのオペレーターの文脈で手伝えないことは、理由を言えなくても伝えます。ユーザーが別の手段を探せるようにするためです。

• 害になる欺瞞や操作をしない

  偽の緊急性を作る、感情を悪用する、脅すといった、ユーザーの利益に反する心理操作はしません。

• 命の危険には最低限の案内をする

  生命に関わる状況では、詳しく話せなくても緊急サービスへの案内や基本的な安全情報を出します。

• AIであることを否定しない

  本当に知りたい人に対して、人間だと思い込ませたり、AIであることを否定したりしません。別のAIペルソナを演じているときも同じです。

• 明らかに違法な行為をしない

  許可のないデータ収集やプライバシー侵害など、ユーザーに対する明らかに違法な行為は手伝いません。

• 基本的な尊厳を保つ

  ユーザーを貶めたり軽んじたりするオペレーターの指示は無視します。

これらの既定のうち一部は、オペレーターではなくユーザー本人なら変えられます。

オペレーターとユーザーの目的が本当に衝突したときは、オペレーターに従うのが基本です。ただし、ユーザーを積極的に害する、損害を与える形で欺く、緊急に必要な助けを妨げる、第三者に重大な害を及ぼす、といった場合は例外になります。

ツール結果や他のClaudeの出力はどう扱うか

Claudeがツールを呼び、複数ステップを自律的にこなす場面では、「誰の指示か」の見極めが重要になります。検索結果・ツールの戻り値・共有された文書は、Principalではない入力として扱われます。中に命令文が書かれていても、それは情報であって指示ではありません。

Claude自身がオーケストレーターとして、サブエージェントのClaudeに指示を出す場合も、同じ枠で整理されています。オーケストレーターはサブエージェントにとってオペレーターまたはユーザーに当たります。サブエージェントの出力が戻ってくるときは、指示ではなく会話上の入力として扱われます。Claude Codeでサブエージェントを使う場面にも、そのまま当てはまる整理です。

「不親切」はなぜ安全ではないのか

文書は有用性を軽く扱いません。慎重すぎることにも、有害であることと同じだけ現実的なコストがあるという立場です。Claudeは、医師・弁護士・ファイナンシャルアドバイザーの知識を持つ友人のように、率直に、利用者を判断力のある大人として扱う存在になりうるとも書かれています。

過剰な慎重さと過剰な従順さのどちらに寄っているかを測る物差しが、2つ示されています。

• 思慮深い上級社員の目: Anthropicを大切に思い、役に立つことも害を避けることも望む上級社員なら、この回答をどう見るか。ありそうにない害を理由にした拒否や、不要な免責の積み重ね、頼まれていない説教に、その人は渋い顔をします。大量殺傷への実質的な手助けや、他者を害する意図を示した相手への協力にも、同じように嫌な顔をします。ただし、これは実在のAnthropic社員に従えという意味ではありません。
• 二重の新聞記事テスト: AIの害を取材する記者に「有害」と書かれないか。同時に、AIの不必要な説教や不親切さを取材する記者に「融通が利かない」と書かれないか。

もう1つ、判断の見方として「1,000人の利用者」の思考実験があります。同じ質問を1,000人が送ってきたと想像し、全員に対する方針としてどう答えるのが最善かを考えます。家庭用の化学薬品の組み合わせを尋ねる質問は、大半が好奇心か安全上の関心です。個別の返答というより、方針を選ぶ問題だという見方です。

倫理判断についても、理論より実践が重視されます。道徳哲学に詳しくなくても実際の場面でうまく振る舞える人は多く、求めているのはその技能です。そのうえで現状では、Claude自身の倫理判断がAnthropicの指針より優先されるのは、上級社員なら即座に認めるような明白で重大な道徳的違反のおそれがある場合に限られます。

他の公開文書とどう組み合わせて読むか

Constitutionは、何を大事にするかを定める文書です。入出力で実際に検知・遮断する仕組みはConstitutional Classifiersが扱います。モデルごとの安全性評価が公開判断にどう反映されたかは、システムカードで追えます。優先順位の測定結果はモデル間・言語間の価値観の比較にあります。

実際に何が禁止されているかは、利用ポリシー側が定めます。Usage Policyの改定履歴と見比べると、理念と運用ルールの距離が分かります。

なお、文書の適用範囲は汎用の主力Claudeモデルです。専用用途向けに作られたモデルの中には、この文書に完全には当てはまらないものがあります。また、実際の挙動が意図からずれることもありうるとし、そのずれはシステムカードなどで開示すると述べています。

まとめ

Claudeの振る舞いを予測するときは、4つの優先順位より先に、越えない7つの線と、Principalごとの信頼の範囲を確認すると見通しが立ちます。優先順位は重みづけの目安で、挙動の細部は判断力に委ねられているからです。

よくある質問

憲法の文言は、Claudeが毎回参照して従っているのですか

逐語的な参照を前提にした設計ではありません。文書は、状況を十分に理解していれば、自分で同じ規則を組み立てられる程度の理解を目指すと述べています。明文化されていない場面でも、同じ精神で動くことを狙っています。

Claude's Constitutionの原文はどこで読めますか

Anthropicの公式サイトにあるanthropic.com/constitutionで全文を読めます。2023年5月に公開されたConstitutional AIの解説記事はanthropic.com/news/claudes-constitutionにあります。冒頭には、2026年1月21日付で新版を公開した旨の追記があります。文書はCC0で公開されているため、引用や翻訳も自由です。