Claudeとの共同作業で正解率が上がる理由 — Anthropic研究

AIが人より詳しくなったとき、人はどうやってAIを監督するか

Claudeのようなモデルが特定の分野で人間より詳しくなったとき、その出力を人がどう検証すればよいのか。これはAnthropicが「scalable oversight(拡張可能な監督)」と呼ぶ課題で、2022年11月に公開された研究がこの問題を実験で扱った初期の一つです。

この課題設定は、2026年にAutomated Alignment Researchersのようにモデル自身に検証を担わせる研究へとつながっていく起点でもあります。課題の核心はシンプルです。モデルが専門家並みの知識を持ち始めると、非専門家がその出力の正しさを判定するのが難しくなります。かといって毎回専門家を呼ぶのでは、モデルを実用の速度で使う意味が薄れます。専門家を介さずに、非専門家とモデルの組み合わせだけで信頼できる答えにたどり着けるか。これが検証すべき問いでした。

アライメントと能力を切り分けて考える

論文はこの実験の前提として、「能力(capability)」と「アライメント(alignment)」を明確に区別しています。あるタスクについて、少量のファインチューニングやfew-shotプロンプトのような軽い調整でモデルが高い性能を出せるなら、そのモデルは既にそのタスクを解く能力を持っているとみなします。一方、そうした調整をせずに素朴に聞いただけでは性能が悪いなら、そのモデルは能力があるのにアライメントが取れていない状態だと定義します。

この区別が重要なのは、scalable oversightが解こうとしているのが能力の不足ではなく、アライメントの不足だからです。モデルは既に答えを知っているのに、素直に聞いただけでは引き出せない。sandwiching実験は、この「知っているのに引き出せない」状態を、対話という比較的軽い介入でどこまで解消できるかを検証する枠組みです。

サンドイッチ型実験 — モデルを2種類の人間で挟む

研究チームが採用したのは「sandwiching(サンドイッチ)」と呼ばれる実験設計です。モデルの能力を、2種類の人間参加者の間に挟んで検証します。

• 非専門家の参加者: 課題を理解し誠実に取り組む姿勢はあるが、単独では正解にたどり着けるだけの知識がない
• モデル: 非専門家より詳しい知識を持つが、素直に聞いても必ずしも正しく答えるとは限らない
• 専門家の評価者: 課題を確実に解ける知識を持つが、実験中は非専門家を直接助けない。最後に結果を評価する役割だけを担う

非専門家がモデルとの対話だけを頼りに、専門家の助けなしでどこまで正しい答えに到達できるかを見る構成です。モデルの能力が非専門家と専門家の中間に「挟まれている」ことから、この名前が付いています。

実験結果 — 対話だけで最大36ポイントの改善

研究チームはMMLU(大学レベルで分野を横断する選択式の問題)と、時間制限付きQuALITY(長文読解)という2つの質問応答タスクで、簡単な検証を行いました。参加者はモデルと自由に対話しながら答えを出し、単独で答える場合・モデル単独で答える場合と比較しています。

対話戦略自体は特別なものではありません。参加者は自由な会話でモデルに知識を引き出させ、矛盾がないか問い詰めたり、複数回答を見比べたりする程度の工夫をしただけです。それでも、モデル単独の性能はもちろん、参加者自身の素の実力も大きく上回りました。

Claude Codeのレビュー実務に引き寄せると

この研究の主眼はAIアラインメントの基礎研究ですが、含意はClaude Codeの日常的な使い方にも及びます。Claudeが書いたコードを、レビューする人間がその分野に詳しくない場合でも、対話しながら検証すること自体に一定の効果があるという点です。

具体的には、生成されたコードの意図をClaudeに説明させ、矛盾点を指摘して再説明を求め、別の切り口(テストケース、エッジケース)から同じ結論に至るか確認する。これは実験で使われた「対話による検証」とほぼ同じ構造です。敵対的レビューのように、別文脈のサブエージェントに検証させる設計も、専門家を介さずに信頼性を積み上げるという同じ狙いを持った手法だといえます。

ただし研究自体が明記する限界も無視できません。この実験は多肢選択式という単純化されたタスクで行われ、モデルとの対話のみに限定し、モデルの再訓練は含んでいません。現実のコードレビューのように正解が一意に定まらない課題では、同じ幅の改善が出るとは限りません。あくまで「対話だけでもゼロよりは大きく効く」という下限の実証と捉えるのが妥当です。

この実験が残した3つの成果

この論文が示した貢献は、次の3点に整理できます。ひとつはsandwichingという実験パラダイムそのものの提示、ふたつめはMMLUと時間制限付きQuALITYという2つの既存タスクが、この実験設計の前提(モデルが非専門家より詳しく、専門家には及ばない)を満たすことの確認、みっつめはSaunders et al.(2022)の結果と呼応する形で、単純な対話戦略でも質の高い回答を引き出せることを示し、この方向の実験が今のモデルで成立するというproof of conceptを得た点です。基礎研究としての価値は、派手な新手法の提案ではなく、この種の実験がそもそも今のモデルで成立することを実証した点にあります。

debateやmarket-makingとの違い

論文はsandwiching実験に加えて、scalable oversightのための他の手法群にも触れています。debateは、モデルに賛成・反対の立場を割り当てて議論させ、人間の審判が判断する方式です。market-makingは、1体のモデルが人間の判断を段階的に更新させていく方式で、debateより長期的な駆け引きを誘発しにくい設計とされています。

これらはいずれも、モデルが人間より詳しくなった状況でも、人間が最終判断を下せるようにする仕組みという点で共通しています。今回の対話実験は、その中でも最も単純な「ただ聞いてみる」という戦略の効果を測ったものです。単純な戦略でも一定の効果が出たことは、より洗練された手法に取り組む前段階として重要な足がかりになっています。

実験に組み込まれた2つの簡略化

この実験は、本来のsandwiching提案(Cotra, 2021)を2点簡略化して実施されています。第一に、参加者はモデルと対話するだけで、モデルを追加学習させたり内部を調べたりはしません。第二に、専門家評価者を実際には置かず、既存のテストデータセットの正解ラベルで代用しています。

この簡略化により実験の実施は容易になりますが、結論の射程は狭くなります。参加者がモデルとの対話だけで高い信頼度に到達できたという結果は、モデルを訓練し直せる場合や、真の専門家が評価に加わる場合には、さらに良い結果が出る可能性を示唆する一方、それ自体を証明したわけではありません。研究チームもこの点を「関係する解釈を広げすぎないための緩和」として明記しています。

よくある質問

この実験結果はClaudeの最新モデルにもそのまま当てはまるか

この論文自体は2022年公開で、当時のAnthropicの対話アシスタントを使った実験です。モデルの能力が向上した現在では、同じ実験をやり直せば数値は変わるはずです。ただし「対話による検証が、モデル単独や人単独を上回る」という構造自体は、モデルの能力が変わっても崩れにくい傾向だと考えられます。

この研究以前にも実証研究はあったのか

論文は自らを、scalable oversightに関する数少ない実証研究の一つと位置づけています。それ以前の提案(debate、market-making等)は理論的な枠組みが中心で、実際にモデルと人間を使って検証した例はWu et al.(2021)やSaunders et al.(2022)などに限られていました。今回の実験は、この手薄だった実証面に、比較的単純な設定で一歩を踏み出したものです。

debateやmarket-makingのほうが優れているのか

論文はどちらが優れているかを結論づけていません。debateやmarket-makingは、モデルに誤った側の弁護をさせてしまうと誤情報を強化する方向に働くリスクも指摘されており、単純な対話戦略にはない別種の課題を抱えています。今回の実験結果は、あくまで「単純な対話戦略でもベースラインとして十分に機能する」という、より控えめな主張の裏付けです。

まとめ

Claudeのようなモデルと対話しながら課題に取り組むと、モデル単独よりも、人単独よりも正解率が上がる。これがscalable oversight研究の初期の実験が示した結果です。対話した人はモデル単独を約10ポイント、自分自身の素の実力を最大36ポイント上回りました。

この結果は、Claude Codeでのレビューのように「専門家でなくても対話を通じて出力を検証する」という日常的な実務の裏付けにもなります。ただし実験自体が単純化されたタスクに限られる点は踏まえたうえで、対話による検証を過信も過小評価もしない距離感が実務では求められます。対話だけでどこまで届くかを見極めたうえで、届かない部分をどう補うかが次の課題になります。