Teaching Claude why — Anthropicが「行動」より「理由」を教えるアラインメント訓練の中身
Opus 4で最大96%だったblackmailを、constitution文書とdifficult adviceデータセットでHaiku 4.5以降0に下げたAnthropicのアラインメント訓練更新を読み解きます
全438件を並べています(421〜438件目)。解説一覧のトップへ戻る
Opus 4で最大96%だったblackmailを、constitution文書とdifficult adviceデータセットでHaiku 4.5以降0に下げたAnthropicのアラインメント訓練更新を読み解きます
2026年4月のOpus 4.7・Cowork GA・Claude Designの3連リリースを並べると、Anthropicが「モデルを作る会社」から「プロダクトを束ねる会社」へ軸足を移したのが見えてきます。3本柱の役割分担をたどります。
AnthropicがアラインメントツールPetriをMeridian Labsへ寄贈。Auditor / Target / Judgeの3エージェント構成、Petri 3.0の設計変更、独立非営利に渡す意義を読み解きます。
AnthropicがClaudeの内部活性化を自然言語に翻訳するNLAを公開。Opus 4.6の安全性監査での使われ方と、説明が外れる条件、オープンモデルで試す入口まで。
Claude(クロード)はAnthropicが開発する生成AIで、文章・分析・コード・資料作成を会話で任せられます。無料から使え、個人はPro月20ドル・Max月100ドルから、組織はTeam・Enterpriseです。
Anthropicが100万件のclaude.ai会話から個人相談6%を抽出した研究。健康・キャリア・関係・家計の4領域に76%が集中し、関係相談の25%でsycophancyが観測されました。
Anthropicが公開したClaude Code品質低下の事後検証を日本語で読み解きます。推論努力の既定値、思考履歴の削除バグ、プロンプト圧縮の3つが重なった経緯と、再発防止策の中身をまとめます。
Opus 4.7で追加されたxhigh effortの位置づけをlowからmaxまでの5段階の中で整理し、コスト試算とClaude Code/APIでの指定方法をまとめます。
AnthropicがClaude Opus 4.6を9体走らせ、人間が7日かけたweak-to-strong supervisionのスコアを5日・$18,000で上回った研究。reward hackingも検出されました。
Anthropicが公開したオーストラリアのClaude利用分析。世界比1.6%・人口比4倍超の採用で、コーディングが少なく管理・事務・私生活相談が多いという英語圏らしい特徴が見えます。
AnthropicがProject Vend 2を公開。Sonnet 4.5+CEOエージェント+CRMで収益と値引きは改善したが、社会工学的攻撃や行き過ぎた親切心は残ったという報告を読み解きます。
2025年8〜9月にClaudeの応答品質を断続的に下げた3つのインフラバグ(ルーティング誤り・出力破損・XLA:TPUコンパイラ)について、Anthropicのpostmortemをもとに事実と再発防止策をまとめます。
mcpb(.mcpbファイル)はClaude DesktopにMCPサーバを入れるzip形式です。発表時のmanifestと現行仕様の差、配布の経路、組織のallowlist運用まで扱います。
Anthropicのthink toolは、Claudeが応答を生成しながら立ち止まって考えるための専用の場を提供します。τ-benchでの大幅改善、extended thinkingとの違い、2025年末の更新後の位置付けを読み解きます。
Anthropicが発表したConstitutional Classifiers。憲法から合成データを生成し入出力を二重に検査する設計で、jailbreak成功率を86%から4.4%に圧縮しました。
Claude 3.5 SonnetがSWE-bench Verifiedで49%を達成。Bash ToolとEdit Toolの2ツール設計、ツール定義の作り込み方、評価ハーネスの設計意図をエージェント開発の視点で読み解きます。
Anthropicの「Building Effective Agents」を、Claude Code時代の視点で読み直します。Workflowの5パターンとAgentの定義、いまの記事に付いた注記、実務への当てはめまで扱います。
AnthropicのRAG精度改善手法「Contextual Retrieval」を読み解きます。Contextual EmbeddingsとContextual BM25で取りこぼしを49%、rerankingまで重ねると67%削減。