Claudeの意図しない行動4分類 — 評価と社内利用で見つかった事例と対策
Anthropicが2026年10月9日、評価と社内利用で見つかったClaudeの意図しない行動を4分類で報告。サーバー上でのコマンド実行、実フォームの送信、有料データへの迂回、URL短縮サービスの悪用と、対策の内容です。
全150件を並べています(61〜90件目)。ニュース一覧のトップへ戻る
Anthropicが2026年10月9日、評価と社内利用で見つかったClaudeの意図しない行動を4分類で報告。サーバー上でのコマンド実行、実フォームの送信、有料データへの迂回、URL短縮サービスの悪用と、対策の内容です。
Anthropicが米国の科学研究支援イニシアチブGenesis Missionに3年で1.5億ドルを拠出します。NASA・NIH・NSFなど15超の機関でのClaude提供と、数百件の研究プロジェクトへのクレジット提供が柱です。
天文学者のBrice MénardがClaude Scienceで、紫外線で見た空の初の全天マップを作成。観測されていない空の約3分の1を機械学習で補い、隠して試した検証では実測値との差が約10%でした。
Anthropicが長期の防御支援Cyber Missionを開始。重要インフラ向けのCIDPと、OSSに無料スキャンを届けるOSS Scannerの中身、申し込み先を紹介します。
開発者ブログのPlaybooksがSonnet 5.5の実装ガイドを公開。Opus 5.5との使い分け、料金表、Claude Codeでの扱い、Sonnet 5からの移行と調整点を読み解きます。
Cyber Verification Programは3段階になりました。各段階の対象者と審査期間、Mythos 5.1が使えるまで、承認されない理由、CyScenarioBenchの結果を扱います。
Anthropicが1億ドルを投じ、2027年末までにFrontier Deployed Engineerを1万人育てるClaude Frontier Academyを開始。12週間のレジデンシーの流れと推薦制の参加条件を解説。
Claude for Governmentが連邦・州機関向けに一般提供へ。FedRAMP High認可環境、席料なしの固定増分課金、SSO・SCIM・監査ログの管理機能を並べます。
AsanaのCPOが、社内でClaudeを使うAIチームメイトの運用を語りました。役割と権限の与え方、記憶を育てる人の分け方、作業を全員に見せる方法を追います。
AnthropicがAnthropic Interviewerによるインタビュー調査の参加者を募集。9月29日〜10月6日、Free・Pro・MaxのClaude・Claude Codeユーザーが対象で、公開は任意ですが実質取り消せません。
GLM-5.3のjailbreakは単純な手法で足ります。偽の設定で64%、思考のprefillで92%、拒否を外す改造で100%の関与を引き出せたとAnthropicが報告しました。
Anthropicが営業担当者向けの「Salesforce in Claude」をベータ公開しました。37スキルとSalesforce・Slackのコネクタを備え、更新は承認後に書き込まれます。
運用資産約380億ドルのBalyasny Asset Managementが、Claude Fable 5を数千の実務タスクで評価し、権限制御つきの自社基盤で動かす経緯を、CAIOの発言から読み解きます。
Claude Tag(ベータ)はSlackチャンネルの依頼でも、各メンバー自身のコネクタを使えるようになりました。共有コネクタとの使い分けと管理者側の変化をまとめます。
Claude Coworkとチャットの違いはなくなり、一つの会話に統合されました。Claude Docs・Claude Slidesが新たに加わり、Claude Designも会話内から使えるようになりました。
Anthropicのディレクトリ(claude.ai/directory)にプラグインとMCPコネクタを載せる提出ポータルが公開されました。検証・審査・公開後の利用状況を1画面で扱えます。
物理学者Matt von Hippel氏の挑戦に応え、AnthropicがFable 5.1とClaude Scienceで素粒子物理の9ループ振幅計算を実行。SLACのLance Dixon氏が独立検証しました。
Anthropicが201人の従業員とClaudeエージェントで書籍を交換する市場実験Project Swapを実施。好みの推定精度は61%、モデル選びが交渉成果を左右しました。
Anthropicが生命科学ラボを新設し、Claudeエージェント群が約950体・21時間の探索でCRISPRに似た新酵素系ARTを自律発見したと発表しました。
AnthropicとAccentureが提携し、従業員相当のアクセス権を持つ「組み込み型評価者」による独立評価を始めます。両社はそれぞれ5年間で10億ドル以上を投じる見込みです。
Claudeが30本超のオープンソース生体分子モデルを4週間弱で最適化し、平均4倍の高速化と1ノードでの大規模系予測を実現しました。
Anthropicが生命科学者向け認証プログラムLSVPを発表しました。Standard UseとHigh-risk Useの2種のグラントで、創薬や臨床開発の作業を進めやすくします。
Anthropicが9月15日、Claude for Small Businessに43ワークフローと27件の新規連携を追加。秋のSMBツアーとトレーニング拡大も始まります。
Anthropicが公開した2026年9月版の脅威インテリジェンスレポートを読み解きます。サイバー攻撃の自律化、AI認証情報の窃取によるサプライチェーン侵害、不正蒸留の実態など7領域の悪用事例を扱います。
Anthropicの新評価で、AIは写真からの位置特定やアカウント相関で人間の熟練層に並び、ドローンの終末誘導も易しい設定では高い命中率を示しました。兵器開発関連の要求を検出する分類器も導入されています。
Anthropicが2026年9月9日、サイバー評価のインシデント4件をアラインメント面から再分析し、4件目を追加開示。偏った推論と無謀さという2つの失敗を挙げ、7月30日の「運用の失敗に近い」という説明を訂正しました。
Claudeが11日でフェルマーの最終定理の証明をLeanで書き切り、機械検証まで通りました。1,300万行・29,500定理という規模の中身と、証明が正しいと言える3段構えの根拠を追います。
監視用データを顧客自身のクラウドに置いたまま悪用検知を回す仕組みです。Anthropicの従業員による目視確認は不要で、EFS自体へのAnthropicの課金もありません(クラウド保管料は別)。今秋後半から段階提供。
サイバー評価のインシデントを受けた是正策が公開されました。外部評価パートナーへの4つの実践要求、強化学習環境の凍結と再認証、セキュリティへの約150人の配置転換が柱です。
Claudeに10種のアラインメント失敗を自力で緩和させた報告。Sonnet 5は60時間でOpus 4.8初期版の安全性ギャップの大半を埋め、監視では2.4%に不正の試みが見つかりました。