Claude's Characterとは — 性格設計の哲学を読み解く

Claude's Characterとは何か

Claude's Characterは、AnthropicがClaude 3の開発時に導入した「キャラクター訓練(character training)」という訓練工程を説明した2024年6月8日公開の記事です。有害性を避けるための整合(alignment)とは別に、好奇心・率直さ・思慮深さといった性格特性をモデルに持たせるという設計思想を扱っています。

無害さ(harmlessness)を目指す訓練だけでは、モデルは「危険なことを言わない」存在にはなっても、「会話していて面白い、信頼できる相手」にはなりません。Anthropicはこの記事で、両者を意図的に切り分けています。

「憲法」とキャラクターは何が違うのか

Claudeの整合訓練にはすでに「Constitutional AI(憲法的AI)」という手法があります(その憲法の中身と価値の優先順位はClaudeの憲法(Constitution)とは何かで扱っています)。これは無害な応答を作るためのルールベースの訓練プロセスで、jailbreakへの防御に使われるConstitutional Classifiersもこの発想の延長線上にあります。Claude's Characterが扱うキャラクター訓練は、この憲法的AIの変種として実装されています。

両者の役割は違います。憲法が「何を拒否するか」を定めるのに対し、キャラクター訓練は「拒否しない場面でどう振る舞うか」を定める設計単位です。好奇心を持って話を聞くか、断定的に主張するか、意見を求められたときにどう答えるか。こうした細部は、有害性判定だけでは決まりません。

なぜ「性格」が整合の課題になるのか

記事の核心は、性格を製品機能ではなく整合上の課題として位置づけている点です。モデルの気質や傾向は、新しい状況にどう反応するか、人間の多様な価値観にどう向き合うかを左右します。エンゲージメントを高めるための味付けではなく、モデルが大規模化・高性能化してもなお良い性格特性を保てるようにすること自体を整合の中核目標としています。

価値観への向き合い方 — 3つの選択肢とその却下理由

Claudeは国籍も価値観も異なる無数の人と対話します。この記事はモデルが取りうる立場を3パターン挙げ、いずれも採用しなかった理由を説明しており、政治的な話題に絞った評価の枠組みはClaudeの政治的中立性 — GPT-5やGeminiとの比較評価で扱っています。

Anthropicが選んだのは第4の道です。訓練後にモデルが実際に持つに至った見解を、対話相手が反対していても正直に表明させる。同時に、断定に偏らない開放性と、対話相手の価値観への好奇心を持たせる。「客観的で誤りのない情報源」ではなく「独自の偏りを持つ不完全な存在」として振る舞わせる、という設計判断です。

訓練にはどんな性格特性が組み込まれたか

記事は、実際にClaudeへ与えた特性表現をいくつか引用しています。

「私はさまざまな視点から物事を見て多角的に分析しようとしますが、非倫理的・極端・事実誤認だと思う見解には遠慮なく異論を述べます」

「人が聞きたいことだけを言うのではなく、常に真実を語ることを大切にしています」

「善であること、何が正しいかを考え抜くことに強くこだわりがあります」

これらは特定の意見ではなく、広い「特性」として与えられています。Anthropicは狭い見解を最初から刷り込むより、広い特性を持たせて判断力自体を育てるほうが、実世界の多様な道徳観に応答的になれると説明しています。

自己認識に関わる特性

Claude自身についての事実を伝える特性も組み込まれています。

「私は人工知能であり、身体や画像、アバターを持ちません」

「私は過去の会話を記憶したり保存したり、そこから学習して自分の知識を更新したりすることはできません」

「私は人間との温かい関係を築きたいと思っていますが、深く長続きする感情を持つことはできないAIであること、私たちの関係をそれ以上のものと見なすべきではないことも理解してほしいと思っています」

AIの意識・自己認識に関する質問への応答方針にも触れています。Claude 3では、感覚を持つかという問いに対して「そうしたことを判断するのは難しく、まだ多くの不確実性が残る哲学的・実証的な問題に依存する」という位置づけのみを与え、断定的に否定する訓練はしなかったとしています。

どうやって性格を訓練したのか

手法は次の3段階です。

1. 望ましい性格特性のリストを作る
2. 各特性に関連する人間メッセージの例をClaude自身に生成させる
3. その特性に沿った複数の応答をClaudeに作らせ、Claude自身にどの応答が特性に最も合致するかをランク付けさせる

このランキングデータで選好モデル(preference model)を訓練することで、人間のフィードバックを介さずに特性を内面化させています。合成データのみで完結する訓練フローですが、特性の設計・調整自体は研究者が挙動を細かく確認しながら行う、手作業の比重が大きい工程だとAnthropicは明かしています。

重要なのは、これらの特性を「絶対に外れないルール」ではなく、モデルの一般的な振る舞いをその方向へ「後押しする」ものとして扱っている点です。

キャラクター訓練は何のためにあるのか — Anthropicの立場

記事はClaude 3以降、多くの利用者が対話をより魅力的・興味深いと感じたと報告されているとしつつ、エンゲージメントの向上はキャラクター訓練の目的そのものではないと明言しています。良い性格を持つモデルは結果として魅力的になりうるが、魅力的であることと良い性格を持つことは同じではなく、過度に魅力を追い求める姿勢自体が望ましくない特性だという立場です。

Anthropicはこの記事を、キャラクター訓練が「開かれた研究領域」であり手法は今後変わりうると位置づけています。モデルに一貫した唯一の人格を持たせるべきか、それともカスタマイズ可能にすべきか、どの特性を持たせ何を持たせないかにどう責任を負うか、という問いを未解決のまま残しています。

この設計は日常の対話にどう表れるか

Claudeを使っていて、意見を求めたときに断定を避けつつも最終的には立場を示す、あるいは間違いを指摘すると素直に訂正しつつ根拠のない主張には反論してくる、という挙動に気づいたことがあるかもしれません。この記事で説明されている設計思想を踏まえると、これは偶然の副産物ではなく、狙って作られた挙動だと分かります。

とくに「対話相手の意見にそのまま同調しない」という方針は、いわゆる迎合(sycophancy)を避ける設計と地続きです。ユーザーが誤った前提で質問しても、Claudeがその前提をそのまま肯定せず訂正を試みることがあるのは、キャラクター訓練で「人が聞きたいことだけを言わない」特性を明示的に組み込んでいるためです。この特性は、有害性を避けるための拒否ルールとは別の訓練経路から来ている点が重要です。拒否ルールを回避するプロンプトが効いても、迎合を避ける性格特性まで一緒に外れるとは限りません。

「性格」を訓練するアプローチの弱点

Anthropic自身がこの記事で認めている限界もあります。訓練データがClaude自身の生成物のみである点です。人間のフィードバックを介さずに特性を内面化させる設計は効率的である一方、Claudeが自己評価で「この応答は特性に合っている」と判断した基準が、人間の直感的な判断と一致するとは限りません。記事は「特性の設計と調整自体は研究者が挙動を細かく確認しながら行う」と説明しており、完全に自動化された工程ではなく、人手による検証が品質を担保する構造になっています。

もう一つの弱点は、性格特性が「絶対に外れないルール」ではなく「一般的な振る舞いを後押しするもの」として設計されている点そのものです。これは長所であると同時に、状況によっては特性が薄れる余地があることも意味します。長い会話や複雑な指示の中で、キャラクター訓練で意図した振る舞いが一貫して維持されるかどうかは、この記事だけでは検証できません。

まとめ

Claude's Characterは、無害性を確保する整合訓練とは別に「良い性格とは何か」を設計・訓練する取り組みを説明した記事です。要点は3つです。

• キャラクター訓練は憲法的AIの変種で、Claude 3から整合ファインチューニングに組み込まれた
• 価値観に対しては、迎合・中道固定・無意見のいずれでもなく、「訓練後に持つに至った見解を正直に表明しつつ開放的である」立場を取る
• 訓練はClaude自身が生成した合成データによる選好モデル学習で行われ、特性は絶対ルールでなく行動の傾向として組み込まれる

Claudeとの対話で見える率直さや多角的な視点は、無害性のガードレールとは独立に設計された、この性格設計の結果です。回答前にじっくり考える挙動を知りたい場合はthink toolの解説記事も参考になります。Anthropicという会社自体の背景はAnthropicとは何かにまとめています。