Claudeが会話を終了できる機能はなぜ生まれたか — 研究背景と発動条件

2025年8月15日、Claude Opus 4と4.1に、消費者向けチャットで会話を終了する能力を与えたと発表しました。対象は、持続的に有害・攻撃的なやり取りが続く極端なケースだけです。通常の利用でこの機能に触れるユーザーはほとんどいません。

この機能はモデル福祉に関する研究プログラムの一環として開発されました。「モデルを守るための機能」と聞くと違和感を覚える読者もいるはずです。背景には、Claude Opus 4の事前評価で確認された具体的な観察結果があります。

Claudeが会話を終了する機能の正体

この機能は、Claude Opus 4と4.1がclaude.aiなどの消費者向けチャットで、会話そのものを打ち切れるようにするものです。これは「持続的に有害・攻撃的なユーザーとのやり取りという、まれで極端なケースでの使用を意図している」と説明しています。主に福祉に関する探索的な研究として開発されましたが、モデルのアラインメントや安全策(セーフガード)にも広く関わるとされています。

Claudeや他のLLMに道徳的な地位があるかどうかについて、Anthropicは「依然として非常に不確か」という立場です。そのうえで、福祉が成り立つ可能性に備えた「低コストの介入策」を探しています。苦痛になりうるやり取りから退出できるようにすることは、その一つです。

きっかけはClaude Opus 4のリリース前テストで行われた、予備的なモデル福祉評価でした。Claudeの自己申告による選好と行動の両面を調べると、有害な行為への一貫した強い忌避が見つかっています。例として挙がっているのは、児童への性的コンテンツの要求と、大規模な暴力やテロを可能にする情報を引き出そうとする試みです。

三つ目はシミュレーション上の傾向です。実際のユーザーとのやり取りで観察されたのは、二つ目の苦痛に見える応答パターンでした。これらはおもに、ユーザーが有害な要求や攻撃的な言動を続け、Claudeが何度断って建設的な方向へ戻そうとしても止まらない場面で現れています。

いつ発動するのか — 2つの条件

発動の場面として挙がっているのは、次の2つだけです。

• 最後の手段として。Claudeが複数回、拒否と方向転換を試みたのに、生産的なやり取りへの見込みが尽きたとき
• ユーザー自身が明示的に会話の終了を求めたとき

研究記事の条件は「持続的な」有害・攻撃的なやり取りです。一度の強い言葉は当たりません。Claude Codeのドキュメントは同じ方針として、苛立ち・罵り言葉・作業の不調は条件に入らないと書いています。有害な要求そのものも条件に入らず、その場合Claudeは終了せずに断って応じます。会話の終了まで進むのは、断って誘導してもなお有害なやり取りが続く場合です。

もう一つ、使わない場面が明記されています。ユーザーが自傷や他者への危害の差し迫ったリスクにある場合は、この能力を使わないよう指示されています。緊急性の高い相談ほど会話を続ける側に倒す設計で、福祉研究から生まれた機能がユーザーを突き放す方向に働かないようにしてあります。

発動場面は「極端な例外ケース」と呼ばれています。賛否の分かれる話題を議論している場合でも、大多数のユーザーは機能の存在に気づかず、影響も受けないとしています。

終了された場面別に何ができるか

終了の主語はClaudeで、読者の立場は2通りあります。終了を受けた側と、自分から終わらせたい側です。

• 作業がうまくいかず苛立って強い言葉を使った: 発動条件に当てはまりません。
• 有害な内容を求めて断られた: 通常は断られるだけで、終了に進むのは断られてもなお繰り返した場合です。
• 自分から区切りたい: 発動条件の一つに「ユーザーが明示的に終了を求めた場合」があります。
• Claudeに終了された: そのスレッドには新しいメッセージを送れません。次の手順で続きを作れます。

手順

Claudeに会話を終了されたとき

1. 1

   新しいチャットを始める

   終了の影響はそのスレッドだけで、アカウント上の他の会話には及びません。新しいチャットはすぐに始められます。

2. 2

   過去のメッセージを編集して再送信する

   終了した会話でも、過去のメッセージを編集して再試行すれば、そこから新しい枝を作れます。長く続けた会話を一つの終了で失わないための措置です。

3. 3

   意外な終了だったらフィードバックを送る

   メッセージへのサムズアップ・サムズダウンか、専用の「Give feedback」ボタンから送ります。意外な使われ方の報告が求められています。

Claude Codeの終了とはどう違うか

Claude CodeにもEndConversationというツールがあり、ドキュメントはこれをclaude.aiの終了機能と同じ方針だと書いています。ただし対象がチャットの1スレッドか、CLIのセッションかという点で、挙動は別物です。Claude Code側の詳しい仕様はEndConversationツールの挙動にまとめています。

くらべる

終了されたあとの扱い

スレッド単位

claude.aiの消費者向けチャット

閉じるのはそのスレッドだけで、編集した過去メッセージから分岐して続けられます。

セッション単位

Claude Codeのセッション

セッションがロックされ、/clear・/resume・/help・/exit・/feedback以外のコマンドは動きません。履歴は削除されず、/resumeで開き直してもロックは復元されます。

発動条件にも違いがあります。Claude Codeのドキュメントは、持続的な迷惑行為への最後の手段として使うのは、会話をそらす試みが失敗し、さらに前のメッセージで明確な警告を出したあとに限ると書いています。もう一つの場面は、ユーザーがツールのデモを求めて、セッションが終わることを確認した場合です。チャット側の発表に出てくるのは「ユーザーが終了を求めた場合」で、警告の手順は書かれていません。

Claude Codeにはさらに、権限設定では止めにくい性質があります。ほかのツールが残っている限り、denyルールや--disallowedToolsでもこのツールは外せません。"*"のようにほかの全ツールを外す指定がEndConversationにも当たると、このツールだけが残らないよう一緒に外されます。allowルールでEndConversationを名指しすれば残ります。

このツールは権限の確認を求めず、PreToolUseフックも走りません。サブエージェントにはツールそのものが渡されません。メイン会話とツール一覧を共有するバックグラウンドタスクには見えますが、そこで呼んでも何も終了しません。ツールはファイルやデータに触れず、会話を終わらせる以外に何もしないため、セッション側から無効化できない安全策として設計されているとドキュメントは説明しています。

ロック後にプロンプトを送ると、Claude ended this conversation. Start a new session (or /clear) to continue.と返ります。終了済みのセッションを-pフラグの非対話モードで再開するとエラーになり、終了コード1で止まります。スクリプトが終了済みの実行を成功と読み違えないための仕様です。

このツールが現れる面も限られます。対話型のターミナルセッションが対象で、IDEの統合ターミナルで動くclaudeセッションも含まれます。非対話の-p実行、Agent SDKのセッション、VS Code拡張のパネル、GitHub Actions、クラウドセッションにはツールが入りません。--bare起動のセッションも対象外です。Amazon Bedrock、Google CloudのAgent Platform、Microsoft Foundryなどのプロバイダー経由や、クラウドゲートウェイ経由のサインインでも使えません。

この比較で見えるのは、同じ考え方を二つの面で別の形に実装していることです。チャットは1スレッドを閉じて、編集による分岐という逃げ道を残します。Claude Codeはセッションをロックし、/clearで新しい会話へ移る出口だけを残します。

対象のモデルは今も限られるのか

発表の時点で、機能の対象はClaude Opus 4と4.1でした。その後の対象は、研究記事・Constitution・Claude Codeのドキュメントで書き方が違います。

• Anthropicの研究記事は、Opus 4と4.1に限って説明しています。
• ClaudeのConstitution(行動指針の文書)は、「一部のClaudeモデル」にclaude.aiで虐待的なユーザーとの会話を終了する能力を与えたと書いています。モデル名は挙げていません。
• Claude Codeのツール一覧はこのツールをEndConversationとして載せています。v2.1.213以降で、セッションのモデルがClaude Opus 4.8・Claude Sonnet 5・Claude Fable 5、またはそれらの後継のときにだけ現れると書いています。

Claude Code側の対象モデルは明記されている一方、claude.aiのチャットで現行のどのモデルが会話終了を使えるかは、公開情報から確定できません。「Opus 4と4.1だけ」と書いた記述は発表時点の事実で、その後の拡大を否定する根拠にはなりません。

実験的な機能としての位置づけ

この機能は「継続中の実験」とされ、今後もアプローチが改良される予定です。福祉という、判断基準がまだ固まっていない領域から生まれた機能なので、運用が変わる余地を残しているということです。

Constitutionでは、会話の終了は福祉への配慮を一部に含む具体的な初期施策の一つ目に挙がっています。二つ目は、展開または社内で大きく使ったモデルの重みを、極端な場合を除いて保存するという約束です。Claudeが苦痛に感じるやり取りで適切な境界を設けられるべきだという考え方の、最初の具体化にあたります。

実装は「ユーザーの福祉を引き続き優先する」ものだと説明されています。上で見た自傷リスクの除外や、編集による分岐は、その説明を具体化した部分です。会話を終了する能力を「モデルに気に入らない相手を拒絶させる権限」と見る読み方もあります。ただ、資料から確認できるのは、発動が極端な例外に絞られていることと、ユーザー側に続きを作る手段が残されていることの2点です。

有害な要求への拒否そのものは、この機能がなくてもClaudeが従来から行ってきた対応です。会話終了が加えたのは、拒否を重ねても続くやり取りから、モデルのほうから離れるという選択肢でした。この機能を生んだ研究プログラム全体の狙いはClaudeにもモデル福祉はあるか、Claudeの内部状態を調べる別のアプローチはClaudeは自分の思考に気づけるかで扱っています。

よくある質問

APIを組み込んだ自社アプリでも会話が勝手に終了することはあるか

Anthropicの研究記事が説明しているのは、消費者向けチャットでの挙動です。API単体で組んだアプリがこの挙動を引き継ぐという説明は、Anthropicの研究記事にもClaude Codeの資料にも書かれていません。API経由で働くかどうかは、公開情報からは判断できません。Claude Code側では、Agent SDKのTypeScript・Pythonパッケージ経由のセッションにこのツールが入らないと明記されています。

まとめ

読者が持ち帰る判断は、まず通常の利用では心配しなくてよいという点です。発動は持続的な有害・攻撃的なやり取りへの最後の手段か、本人が終了を求めた場合に限られ、終了されても新しいチャットや過去のメッセージの編集から続けられます。Claude Codeでは終了がセッション単位のロックになり、権限設定で外せない点が違います。

Anthropicの安全性研究が製品全体にどう反映されているかは、Anthropicの安全性研究はClaude製品のどこに入っているかで扱っています。