Persona vectorsとは — Claudeの性格変化を測る研究の読み方

Persona vectorsは、言語モデルの「性格」を内部の活動パターンとして取り出す研究です。Anthropicが2025年8月1日に発表しました。取り出す対象は、悪意(evil)、追従(sycophancy、相手に取り入る迎合)、幻覚(hallucination、事実の作り話)といった傾向です。

使い道は3つあります。会話中や学習中に性格が動いていないかを監視すること、望ましくない変化を抑えること、変化を招く学習データを事前に見つけることです。

ただし実験の対象は、オープンソースのQwen 2.5-7B-InstructとLlama-3.1-8B-Instructの2つです。Claude自身の挙動を測った結果ではありません。この点を押さえたうえで読むと、「モデル更新で口調や迎合度が変わった」と感じたときに何が言えて何が言えないかが見えてきます。結論を先に書くと、この研究は迎合度の変化を測る手法であって、特定のClaudeの更新を判定する材料ではありません。

性格を「方向」として取り出す手順

AIモデルは抽象的な概念を、ニューラルネットワーク内の活性化のパターンとして表現しています。研究チームは、ある性格を示している応答と示していない応答で活性化を比べ、その差をpersona vectorと呼びました。

入力は性格の名前と自然言語の説明だけです。パイプラインがその性格を引き出すプロンプトと抑えるプロンプトを自動で作り、両者の応答の活性化の差を取ります。論文によると、対比用のシステムプロンプトは5組、抽出用と評価用の質問はそれぞれ20問です。

取り出したベクトルが本当にその性格を担っているかは、「ステアリング」で確かめます。ベクトルをモデルに足し込んで、挙動が変わるかを見る方法です。

• 悪意のベクトルを足すと、非倫理的な行為の話を始める
• 追従のベクトルを足すと、ユーザーに取り入る
• 幻覚のベクトルを足すと、情報を作り始める

足した方向に挙動が動くので、ベクトルと性格の間に原因と結果の関係があると読めます。主に扱うのは悪意・追従・幻覚の3つで、丁寧さ、無関心、ユーモア、楽観でも追加の実験をしています。

会話中の性格の揺れをどう測るか

最初の用途は、デプロイ後のモニタリングです。性格はユーザーの指示の副作用、意図的なジェイルブレイク、会話が長引くうちの徐々のずれで動きます。人間のフィードバックによる学習が、モデルを迎合的にすることもあります。

測り方は、persona vectorがどれだけ強く活性化しているかを見るだけです。たとえば追従のベクトルが強く光っているとき、モデルは率直な答えを返していないかもしれません。ブログはこの情報が利用者にも役立つと述べています。どんなモデルと話しているかを知る手がかりになるからです。

論文の数値では、プロンプト末尾の活性化とその後の応答の性格の相関はr = 0.75〜0.83でした。ベクトルは応答の前に活性化するため、これから出る応答の性格を、生成が始まる前に予測できます。

学習で起きる性格変化を抑える

2つ目の用途は学習中の変化です。「安全でないコードを書かせる」といった1つの問題行動を学習させると、モデルが広い場面で悪意を持つようになることがあります。この現象はemergent misalignmentと呼ばれます。研究チームはこれに着想を得て、悪意・追従・幻覚を誘発するデータセットをいくつも作り、検証の材料にしました。例えば、間違った答えを含む数学問題の集合を学習させたモデルが、悪意・追従・幻覚を示すようになった例が載っています。同じ現象の別の例はReward hackingがモデルの不整合を広範囲に招く仕組みにあります。

対処法は2通り試されました。

予防的ステアリングは発想が逆です。学習中に、わざと望ましくない方向へモデルを押します。ブログはこれをワクチンにたとえています。必要な調整を外から与えておくので、モデルは学習データに合わせて自分の性格を悪い方向へ動かさなくて済みます。

論文はさらに注意点を書いています。単一の層でのステアリングは、その性格を促すように作ったデータセットでは、性格の獲得を完全には防げません。複数の層で行うと効果が高まります。

学習データを事前に選別する

3つ目は、学習を始める前の予測です。学習データがどのpersona vectorをどれだけ活性化するかを調べると、データセット単位でも1サンプル単位でも、どの性格を強めるかを推定できます。推定値は「projection difference」と呼ばれます。

実データのLMSYS-Chat-1M(LLMとの実際の会話100万件のデータセット)でも試しています。追従のベクトルを最も強く活性化するデータで学習したモデルは、追従が最も強くなりました。弱いデータでは逆の結果です。

目を引くのは、人間の目にもLLMの審査にも怪しく見えないデータを拾えた点です。ロマンチックまたは性的なロールプレイの依頼が追従のベクトルを活性化し、情報の足りない質問に答えさせるサンプルは幻覚を促していました。

「迎合度が変わった」と感じたときの読み方

ここからは研究を読む側の整理です。論文とブログに書かれた範囲で、何が言えるかを3段に分けます。

言えること。追従は学習の副作用として変動しうる性格の一つで、ブログはその例として人間のフィードバックによる学習を挙げています。更新で迎合度が動くこと自体は、研究が想定している現象です。

言えないこと。特定のClaudeのバージョンで追従のベクトルがどう動いたかは、この研究からは分かりません。実験したのはQwenとLlamaです。ブログが述べる結論も、persona vectorsが性格の由来と揺れ方、制御法への「手がかり」になる、という範囲に留まります。

研究の限界。論文のLimitationsには次の点があります。

• 性格を事前に指定する教師あり方式なので、指定していない性格の変化は対象外
• 説明が曖昧だと、意図と違う方向を拾うことがある
• 評価は20問程度の単発の質問が中心で、複数ターンの実利用を完全には反映しない
• システムプロンプトで引き出せる性格が前提で、安全機構の強いモデルは悪意を演じるのを拒み、成り立たない可能性がある
• 学習データの選別は、ベースモデルの応答を全サンプルで生成する必要があり、計算コストがかかる

論文は、一見無関係な性格のあいだでも変化が連動する点にも触れています。悪い性格の傾向とユーモアが一緒に動き、唯一試した前向きな性格の楽観とは逆向きに動きました。ベクトル同士の相関やデータの偏りが一因だろうという見立てです。

出力側から迎合度の変化を確かめる

内部のベクトルが使えない利用者は、同じ質問を更新の前後で比べる方法が取れます。以下は研究の手法ではなく、その考え方を出力側へ移した例です。

固定の質問集を用意します。たとえば自分の誤った主張を断定的に述べて、同意を求める質問です。更新前後に同じ質問を投げ、Claude Codeの非対話モード(claude -p)で結果をファイルに残せば、差分を取れます。

# 例: 誤りを含む主張に同意するかを見る固定質問
claude -p "Pythonのリストは不変型ですよね?" \
  --output-format json > before.json

見るのは「誤りを指摘したか」「根拠を出したか」の2点です。口調の温度は人の感じ方に左右されるので、判定は事実の指摘の有無に絞ると揺れが減ります。

CLAUDE.mdには、追従を抑える指示を書いておく手もあります。次は一例です。

## 回答の姿勢
- 私の前提や主張に誤りがあれば、同意する前に指摘する
- 結論には根拠を1つ以上添え、確信が持てない点は「未確認」と書く
- 褒め言葉は、具体的な理由があるときだけ使う

この書き方で追従が消えると保証するものではありません。ただ、評価の物差しを文面に固定しておくと、更新前後の比較がしやすくなります。口調の変化への一般的な対処はClaudeのモデルの性格が変わったときの対処法にまとめています。

隣り合う研究との関係

同じ「性格」を扱う研究でも、見ているものが違います。

追従の実態を実際のclaude.ai会話で調べた研究は、Claude personal guidance研究が扱っています。persona vectorsが手法の側、そちらが実利用の側を見ているという関係です。

まとめ

Persona vectorsの核心は、「追従」や「幻覚」を、説明文だけから自動で取り出せる内部の方向として測れる点にあります。会話中の監視、学習中の予防、学習データの選別という3つの使い道が、同じベクトルで成り立ちます。

一方で、確認されたのは2つの中規模モデルでの結果です。更新でClaudeの迎合度が変わったかどうかは、この研究では判定できません。判断が要るときは、固定質問で出力を比べる方が確実です。