Constitutional Classifiers — Claudeのjailbreakを95%防ぐ仕組み
Anthropicが発表したConstitutional Classifiers。憲法から合成データを生成し入出力を二重に検査する設計で、jailbreak成功率を86%から4.4%に圧縮しました。
全334件を並べています(331〜334件目)。解説一覧のトップへ戻る
Anthropicが発表したConstitutional Classifiers。憲法から合成データを生成し入出力を二重に検査する設計で、jailbreak成功率を86%から4.4%に圧縮しました。
Claude 3.5 SonnetがSWE-bench Verifiedで49%を達成。Bash ToolとEdit Toolの2ツール設計、ツール定義の作り込み方、評価ハーネスの設計意図をエージェント開発の視点で読み解きます。
Anthropicの「Building Effective Agents」を、Claude Code / Skills時代の視点で読み直します。Workflowの5パターンとAgentの定義を整理し、実務への当てはめまで踏み込みます。
AnthropicのRAG精度改善手法「Contextual Retrieval」を読み解きます。Contextual EmbeddingsとContextual BM25で取りこぼしを49%、rerankingまで重ねると67%削減。