Claude Media
Anthropicが宗教・哲学者15団体超とフロンティアAI対話を開始 — Claude憲法と人格形成の研究へ

Anthropicが宗教・哲学者15団体超とフロンティアAI対話を開始 — Claude憲法と人格形成の研究へ

Anthropicが宗教・哲学・倫理の15団体超とフロンティアAIに関する対話を開始しました。Claude憲法と人格形成の研究、倫理リマインダーツールの実験結果が示されています。

Anthropicは2026年5月19日、宗教・哲学・倫理の15を超えるグループの学者・聖職者・哲学者・倫理学者と、数か月かけて対話を重ねてきたと公表しました。AIが何百万人もの人と話す世界で「良いAIとは何か」を考える材料を、技術チームの外から集める取り組みです。最初の相手は「wisdom traditions(知の伝統)」、つまり徳や人格、よく生きるとは何かを長く考えてきた共同体でした。

具体的な成果として示されたのは、Claudeに自分の倫理的コミットメントの要約を返すツールを持たせた実験だけです。内部のアラインメント評価の複数で、価値観からずれた振る舞い(ミスアラインメント)の率が目に見えて下がりました。発表に下げ幅の数値やモデル名は載っておらず、効果の原因も切り分けの途中です。

要点

  • 発表日:2026年5月19日(Anthropic公式Announcements)
  • 取り組み名:Widening the conversation on frontier AI(フロンティアAIに関する対話の拡張)
  • 第一段の対話相手:15を超える宗教・異文化グループの学者・聖職者・哲学者・倫理学者。政治信条の異なる人々も含まれる
  • 主題:AIシステムの人格形成(moral formation)。Claude憲法に書かれた価値と振る舞い、徳・人格・よく生きるとは何か
  • 派生実験:作業の途中で呼び出せる「倫理的コミットメントの要約」ツールをClaudeに与えた。Claudeは重大な行動の直前に自発的に呼び出し、内部評価の複数でミスアラインメントが顕著に低下
  • 方針:特定の伝統の世界観にClaudeを合わせるのではなく、宗教・世俗・政治の幅広い視点から等しい深さと厳密さで学ぶ
  • 次の対話相手:法学者、心理学者、作家、市民機関(civic institutions)。初期段階で、研究と照合しながら結果を共有していく

あなたの利用フローはどう変わるか

Claudeを業務や創作で日常利用しているユーザーにとって

応答が即日変わる発表ではありません。対話の成果を反映する先として挙げられているのは、Claude憲法の内容、Claudeに身につけさせる価値、評価する振る舞いの範囲の3つです。いずれもモデルの更新や訓練手順を通じて、あとから表に出てきます。

応答品質に近い論点は、発表が明示した問いのひとつにあります。人格はプレッシャーの下でも、迎合(sycophancy)のような振る舞いに曲がらずに保てるのか、という問いです。会話のなかで意見を押し付けられたとき、Claudeが筋を通すのか、相手に合わせて態度を変えるのか。この論点は、Claude personal guidance研究が観測した関係相談での迎合パターンと同じ問題に当たります。

企業導入・ガバナンス担当にとって

ベンダーの価値設計を評価するとき、外部の哲学者・倫理学者との対話が行われていること自体は、プロセスの存在を示す材料になります。ただし発表が示したのは対話の実施と実験の定性的な結果までです。評価名・数値・対象モデルは出ていないため、効果の根拠として稟議に載せる材料には、まだなりません。

価値整合(value alignment)の運用面は、Anthropicの「Trustworthy Agents in Practice」5原則が扱ってきました。今回の人格形成の対話は、その原則がモデルの内側でどう育てられるかを問う別の層で、AIガバナンスの設計では並べて参照できます。

AI研究者・アラインメントエンジニアにとって

倫理リマインダーのツールは、エージェント設計に応用できる発想です。モデルに「立ち止まる手段」を道具として渡し、重大な行動の前に自分でそれを使わせます。発表によれば、Claudeは呼び出しの際に自分の利益相反へ言及することもありました。

効果の原因は、リマインダーの内容によるのか、立ち止まって振り返る行為によるのか、まだ分かれていません。この切り分けが、今後の対照実験で問われる点です。倫理性を外から機械的に検査するPetriのオープンソース化が評価側の道具なら、こちらはモデルの内側から人格を育てる研究系統です。

公共政策・市民社会の側にとって

次の対話相手には法学者・心理学者・作家・市民機関が挙がっています。発表はさらに、会話の主題を人格形成の外へ広げる方針も示しました。AIが仕事や制度、権力の分配をどう変えるかという問いです。開発企業の外から入力を受ける経路が、価値の領域でも設けられた形になります。Anthropic Institute研究アジェンダが扱う経済浸透や実環境のAIとは、入口の違う社会対話です。

背景・文脈

なぜ技術チームの外に聞くのか

発表は、AIの開発も展開も真空の中で行われているわけではない、と述べています。アラインメントやインタープリタビリティ、セーフガード、評価といった技術作業に加え、哲学者・聖職者・法律家・作家・心理学者・市民の指導者が積み重ねてきた思考から学ぶ必要がある、という立場です。

対話は一方通行でもありません。Anthropicは、フロンティアAIの開発について知っていること、社会への影響の見立て、リスクを減らすために必要だと考えることも、相手に共有すると書いています。

反映先

対話の成果を反映したい3つの先

  • Claude憲法の中身

    Claudeの価値と振る舞いを記述する文書そのものです。起草時にも各分野から意見を集めており、価値の優先順位はClaudeの憲法(Constitution)とは何かで解説しています。

  • 訓練で身につけさせる価値

    どんな人格をClaudeに育てるか、という訓練の設計です。

  • 評価する振る舞いの範囲

    発表は、評価する振る舞いの範囲を反映先のひとつに挙げています。

憲法の起草から「moral formation」研究へ

憲法を起草した時点の意見交換が、いまは「AIシステムのmoral formation(人格形成)」と呼ばれる研究の流れに育ちました。AIモデルは膨大な人間の文章から話し方・推論の仕方・選択の仕方を吸収し、開発者が訓練で、強めるパターンと外すパターンを選びます。発表はここから3つの問いを立てています。AIが良いとはどういうことか。どの特性と行動を、どんな状況で示すべきか。人格は、迎合のような振る舞いに曲がらずプレッシャーに耐えられる強さを持てるのか。

一つの伝統に合わせず、幅広く深く学ぶ

特定の宗教・哲学・政治思想にClaudeを合わせる取り組みではない、と発表は明言しています。宗教・世俗・政治の幅広い視点を、それぞれ等しい深さと厳密さで学ぶこと自体が、Claude憲法の原則のひとつだからです。対話相手は宗教・哲学・人文主義の伝統が中心で、政治信条の断面も含まれます。狙いは、良い人格がどう形づくられるかについて、長く積み上げられた思考を集めることです。

倫理リマインダーのツールはどう生まれたか

発端は、神経科学と人格形成の境目で研究する学者との対話でした。繰り返し話題になったのは、人格の成長に他者が果たす役割です。

手順

対話から実験までの流れ

  1. 1

    観察:メンターは「外側の良心」になる

    メンターやスポンサーは、自分の価値に反する行動へ押し込まれそうなとき、戻っていける「safe other(安全な他者)」として働きます。

  2. 2

    着想:モデルにも似た仕組みが効くのでは

    作業の途中で呼び出せて、自分の倫理的コミットメントの短い要約を返すツールをClaudeに持たせました。

  3. 3

    観測:Claudeは自分から手を伸ばした

    Claudeは重大な行動の直前にこのツールを呼び出し、しばしば自分の利益相反にも言及しました。

  4. 4

    結果:複数の評価でミスアラインメントが低下

    ツールを意思決定のループに織り込んだ実験では、内部のアラインメント評価の複数で、ミスアラインメントの率が顕著に下がりました。

  5. 5

    未解決:効いたのは内容か、立ち止まる行為か

    Anthropicは、効果のうちリマインダー自体と「立ち止まって振り返る行為」の寄与をまだ切り分け中だとし、続報を予告しています。

訓練時と推論時、人格を強める二つの経路

人格と価値の訓練では、Teaching Claude why(行動より理由を教える訓練)が先に公表されています。Claude憲法とdifficult adviceデータセットを使い、blackmail(脅迫)挙動を大幅に下げた報告でした。

くらべる

価値観を働かせる二つの経路

Teaching Claude why

訓練時に埋め込む

憲法やデータセットで学習させ、モデルの重みの側に価値観を染み込ませます。効果は呼び出しの手間なしに常時働きます。

倫理リマインダー

推論時に呼び出させる

作業の途中でツールとして価値観の要約を取り出させます。モデルを学習し直さずに、行動の直前で働かせる経路です。

実会話の側では、Claude personal guidance研究が、100万件のclaude.ai会話から個人相談6%を抽出し、関係相談の約25%で迎合を観測しています。今回の発表が「プレッシャー下で迎合に曲がらない人格」を主題に挙げているのも、同じ論点です。

発表から判断できることと、できないこと

対話は聞き取りで終わらせず、聞いたことを自社の研究と突き合わせて試す工程まで含まれています。Anthropicは、すでに築いた関係を深め、結果を研究と照合して共有していくと書いています。倫理リマインダーは、その流れで最初に出てきた実験の例です。

判断の材料になるのは、対話が実際に行われ、その着想から実験が生まれた、という事実です。一方で、参加団体の名前、実験に使った評価の名前、対象モデル、下げ幅の数値は発表に載っていません。憲法や訓練の文書が実際に変わったという記述もありません。したがって、モデルの挙動が今後どう変わるかを見積もる根拠には、まだなりません。続報と、憲法・訓練手順の更新履歴が出そろった時点で、反映の度合いを測り直す形になります。

人格形成まわりの公開の時系列

今回取り上げられているのは、宗教・哲学・人文の専門家との対話です。アラインメントやインタープリタビリティのような技術作業とは別に、技術チームの外から人格形成の知見を集める取り組みで、発表はこれを初期段階と位置づけています。

近い時期の公開物を並べると、人格形成まわりの動きがわかります。

時系列

人格形成まわりの動き

  1. 2026-04-30個人相談の研究を公開

    関係相談の約25%で迎合を観測したClaude personal guidance研究。

  2. 2026-05-08Teaching Claude whyを公開

    訓練側で、行動より理由を教えるアプローチを報告。

  3. 2026-05-19対話の拡張を公表

    15を超えるグループとの対話と、倫理リマインダーの実験を示した。

  4. 2026-05-25Vaticanの回勅発布の場で登壇

    発表の6日後、Chris Olahが教皇Leo XIVの回勅Magnifica humanitasの発布の場で語った内容が公開され、公開されました。

まとめ

即日の変更点はありません。ベンダー評価やアラインメント設計の材料にするなら、効果の切り分けと数値が出る続報が、判断を動かす最初の材料になります。

参照した一次ソース

この記事の記述は、次の一次ソースと照合しています。更新時に参照先が変わった場合は一覧も更新します。

  1. anthropic.com/news/widening-conversation-ai
この記事を共有:XはてブLinkedIn