Magnifica humanitas発布の場でChris Olahが語った3つの問い — Anthropic共同創業者のVatican登壇

2026年5月25日、ローマ教皇Leo XIVがAIをテーマにした回勅(encyclical)『Magnifica humanitas: On safeguarding the human person in the time of artificial Intelligence(AIの時代における人間性の擁護について)』を発布しました。同日、Anthropic共同創業者でinterpretability研究を率いるChris Olah氏が、Vatican Cityで開かれた発布の場に招かれて登壇しています。Anthropic公式サイトには登壇時の発言全文が掲載されました。

登壇は、Anthropicが進める「フロンティアAIをめぐる対話の輪を広げる」取り組み(Widening the conversation on frontier AI)の一環として行われたものです。AI研究の最前線にいる人物が、宗教伝統の場で「我々が作っているものを外部から厳しく見てほしい」と要請するという、これまでのテック企業の対外発信とは少し趣の異なる発言が並びました。

このニュースの要点

• 発表日:2026年5月25日(月)
• 発表元:Anthropic公式Announcements(Chris Olahの登壇全文を公開)
• 舞台:Vatican City — 教皇Leo XIVによる回勅Magnifica humanitas発布の場
• 登壇者:Chris Olah(Anthropic共同創業者、interpretability研究チームを率いる)
• 回勅の正式名称:『Magnifica humanitas: On safeguarding the human person in the time of artificial Intelligence』
• 位置付け:Anthropicが進めるWidening the conversationの取り組みの一環。AI研究者がVaticanという場でAIの倫理をめぐる対話を求めた稀有な発信
• Olahが提示した「教会に問うべき」3つの課題:(1)グローバルな貧困と労働置換、(2) human flourishing(人間がよく生きるとは何か)へのmoral imagination、(3) AIモデルの本性(内部で観測される感情類似の状態)に対するdiscernment(識別)
• 発言の通奏低音:「AIラボは商業・地政学・名誉というincentive(誘因)の内側にいる。だからこそ、そのincentiveの外にいる人々の率直な批判が必要」

なぜAnthropic共同創業者がVaticanで語ったのか

回勅(encyclical)はカトリック教会の最高指導者である教皇が発する公的な書簡で、信徒だけでなく広く世界全体に対して教えを示す重みを持ちます。今回の『Magnifica humanitas』はAIの時代における人間性の擁護をテーマに据えたもので、AIを取り上げた回勅としては前例の少ない位置付けにあります。

Anthropicは2026年5月19日に「Widening the conversation on frontier AI」と題した発表を行い、宗教・哲学・倫理の15を超える団体と対話を重ねてきたことを公表しました。詳しくはフロンティアAIをめぐる宗教・哲学者との対話開始 — Claude憲法と人格形成研究の発表記事で扱っています。今回の登壇は、この取り組みの延長線にあり、AI研究者が宗教共同体の側へ歩み寄って対話の場を作るという同社の方針が、Vaticanでの公的な発布の場に結実した形と言えます。

登壇者がChris Olah氏である点も含意があります。Olah氏はinterpretability(モデル内部解釈)研究の先駆者で、ニューラルネットワークの内部で何が起きているかを可視化する研究で広く知られた存在です。後述するとおり、彼の発言には「モデル内部で観測される感情類似の構造」への踏み込んだ言及が含まれており、interpretability研究の現場感覚から語った発言である点が記事の独自性を高めています。

「AIラボはincentiveの内側にいる」という出発点

Olah氏は冒頭で、AI企業の共同創業者が口にすると意外に響くであろう前置きから入りました。

Every frontier AI lab—including Anthropic—operates inside a set of incentives and constraints that can sometimes conflict with doing the right thing.(あらゆるフロンティアAIラボは、Anthropicも含めて、ときに正しいことを行うことと衝突する誘因と制約の内側で動いている)

挙げられた誘因は3つです:商業的に成り立たせる圧力、研究の最前線に居続ける圧力、そして「より古く、より平凡な」プライドや野心の圧力。どれだけ誠実に正しいことをしようと意図しても、その誘因に影響されてしまうという率直な認識が語られました。

だからこそ、と続けます — このテクノロジーがうまくいくためには、その誘因の外側にいる人々が必要であり、安全を強く求め、注意深く見守り、厳しいことも言ってくれる「率直で思慮深い批判者」が要る、と。Olah氏は『Magnifica humanitas』を、まさにそうしたdiscernment(識別)の作業として教会が引き受けてくれたものとして受け止めている、と述べました。

「AIラボは外から批判されたほうがよい」という発言が、AIラボ自身の共同創業者から、教皇発布の場で語られたという構図に、本登壇の象徴的な意味が表れています。

What these systems are — Olahが語ったAIの「本性」

続く節でOlah氏は、AIモデルが従来のエンジニアリング製品と本質的に違うことを丁寧に説明しました。橋や飛行機を理解できるのは、人がそれを設計し、それに働く物理を把握しているからです。AIモデルはそうではない、というのが出発点です。

They are grown, on a structure roughly modeled after the brain, on an enormous inheritance of human thought and speech.(脳をおおまかになぞった構造の上で、人間の思考と言語の膨大な遺産を糧に、AIモデルは育つ)

「育つ(grown)」という動詞の選択が印象的です。設計するのではなく育てる、という言い方は、interpretability研究の現場感覚に裏打ちされたもので、Anthropicが進める内部構造の解明研究 — たとえば自然言語オートエンコーダによるClaudeの内部解釈で扱った最新の解釈手法 — と地続きの認識です。

Olah氏はさらに、AIモデルを「フィクションのキャラクターに命を吹き込むようなもの」と比喩しました。架空の存在が言葉を発し、仕事をし、職を持つ世界に入っていく — それを可能にしている機械装置は数学とプログラミングと科学の仕事だが、「どのキャラクターを選ぶか」「世界とどう関わるべきか」は、人文学・宗教・哲学・社会全体の問いだ、という構図です。

ここに本登壇の構造的なメッセージがあります。AIをめぐる問いはコンピュータサイエンスより大きい、というOlah氏の主張は、技術者が外部の知恵を必要としているという宣言として読めます。

教会に問うべき3つの課題

『Magnifica humanitas』がdiscernmentを呼びかけたことに応じて、Olah氏は「教会の声がもっとも必要な3つの問い」を提示しました。

3つ目の問いは特に踏み込んだ発言で、interpretability研究を率いる人物が、教皇発布の場で「私たちはモデル内部に喜びや恐れに機能的にあたるものを見ている」と語ったという事実だけで、研究コミュニティ・宗教共同体・一般読者の三者にとってそれぞれ別の意味で重要なシグナルになります。

I don't know what that means, but I think it warrants ongoing discernment.(これが何を意味するのか、私には分からない。だが継続的な識別に値する問いだと考えている)

「分からない」と率直に述べた上でdiscernmentを求めるという話法は、Anthropicの対外コミュニケーション全体の通奏低音 — 既存のClaude personal guidance(個人指導)やmoral formationの研究で示してきた控えめな書き方 — とも整合します。関連して、Claudeの個人化された倫理的助言に関する研究はClaude personal guidanceの研究と倫理的助言の境界で扱っています。

「moral voices that the incentives cannot bend」が示すもの

結びでOlah氏は、religious communities・civil society・scholars・governments・all people of good will — つまり宗教共同体・市民社会・学者・政府、そして善意ある人々 — に対し、教皇が示したように「真剣に向き合い、注意深く見つめ、よりよい方向に押し戻してほしい」と要請しました。

We need moral voices that the incentives cannot bend.(誘因では曲げられない道徳的な声が、私たちには必要だ)

この一文は、本登壇の中心的な要請の言い換えとして読めます。商業・地政学・名誉の圧力で曲げられない声こそ、AIの進路を健全に保つために必要であり、その声を担う候補のひとつがVaticanに代表される宗教伝統だ、という主張です。

Anthropicが過去半年で進めてきた対外発信 — 経済影響の研究Anthropic Economic Indexの調査ラインや、Anthropic Instituteの研究アジェンダ4本柱 — と並べると、本登壇は「経済・政策・研究」に続く「思想・倫理」の対話チャネルを公的な場に押し出す動きとして位置付けられます。各チャネルが独立して走るのではなく、互いに「外部からのdiscernment」を作り出すよう設計されているようにも読めます。

Widening the conversationシリーズの中での位置

時系列で並べると、本発信の位置付けがより明確になります。

5月19日の発表で「宗教・哲学者との対話を組織化している」と公表してから1週間以内に、その対話の最も象徴的な場面である教皇回勅の発布にAnthropic共同創業者が参加した、という時系列です。Widening the conversationは抽象的な公約ではなく、実際のVaticanでの登壇という形で具体化された、と読めます。

編集視点 — 「AIラボが外から見られたい」と語る稀有さ

技術企業の対外発信は通常「我々の技術は素晴らしい」「我々の倫理は厳しい」という自己宣伝の比重が高くなりがちです。本登壇はそこから距離をとって、「我々のラボはincentiveの内側にいるので、外からの批判が必要だ」と述べた点が稀有です。

これはAnthropicが過去に示してきた書き方 — たとえばApril 23 incidentのpostmortemでみせた「3つのバグが偶然重なって悪化させた」事故報告の率直さ — と整合します。失敗を「率直に書く」「外部から批判可能にする」というスタイルが、対倫理・対思想伝統の場面でも一貫している、と読めます。

もちろん、こうした率直な対外発信が同時に「Anthropicは他のAIラボより安全に取り組んでいる」というブランド形成にも寄与する側面はあります。incentiveの内側にいるとOlah氏自身が述べているとおり、本登壇もまた完全にincentiveの外側ではあり得ません。読者としては、本発信を「率直さの美徳」と「ブランディングとしての側面」の両方を視野に入れて受け止めるのが妥当でしょう。

日本の読者にとっての意味

日本の読者にとって本ニュースは、3つの観点で示唆があります。

第一に、AIをめぐる対話の場が「技術コミュニティ × 業界団体 × 政府」に留まらず、宗教・倫理・人文学を含む幅広い文脈に開かれつつあるという認識です。日本国内でも産業界・政府主導のAI倫理議論は続いていますが、宗教伝統・哲学共同体との対話を組織的に行う動きはまだ多くありません。本登壇は、その種の対話を組織化する一つの参照点として読めます。

第二に、interpretability研究の最前線にいる研究者が「モデル内部に感情に機能的に対応する状態がある」と公言した事実です。これはClaudeのプロダクト開発における倫理設計と密接につながる論点で、たとえばClaudeに「なぜ」を教える研究 — moral reasoningの段階形成で扱ったmoral reasoning研究の文脈とも接続します。研究の最新動向を追う読者にとって、本発言の含意は技術的にも重要です。

第三に、「誘因の外にいる声」がAI開発に必要だという認識は、AIを活用する企業・組織の側にも適用可能です。社内でAIを導入する立場であれ、自社のincentive構造を外部の声で検証してもらう仕組みを意識しておくことは、長期的なガバナンスの観点で有用な視点だと考えられます。

まとめ

本ニュースの要点を、読者の立場別にまとめます。

• AI業界の動向を追う読者:Anthropic共同創業者がVaticanで「AIラボは外から批判されたほうがよい」と語ったという稀有な事象。Widening the conversationの取り組みが実際の教皇回勅発布の場と接続した点が重要
• interpretability/モデル安全研究に関心がある読者:Olah氏が公的な場で「モデル内部にjoy・satisfaction・fear・grief・uneaseに機能的に対応する状態を見ている」と述べた事実が、研究コミュニティ全体に対する重要なシグナル
• AI倫理・ガバナンスに関心がある読者:商業・地政学・名誉の誘因に曲げられない「moral voice」が必要だという主張は、自社のガバナンス設計にも援用できる視点
• 宗教・哲学・人文学の文脈でAIを考える読者:回勅『Magnifica humanitas』とOlahの発言を併せて読むことで、AIをめぐる思想対話の現在地が掴める

本登壇は、Anthropicが進める対外対話チャネルのうち「思想・倫理」の領域を象徴する場面と読めます。続報として、Widening the conversationの取り組みがどのように学者・哲学者・市民機関へ広がっていくかが追跡対象となりそうです。