Claudeの悪用事例 — 2025年3月版レポートで見る4つの手口

レポートの要点

Anthropicは2025年4月23日、「Detecting and countering malicious uses of Claude: March 2025」と題する脅威インテリジェンスレポートを公開しました。最も新規性が高いと位置づけられた事例は、Claudeを世論工作の「オーケストレーター(実行判断役)」として使ったケースです。コンテンツ生成にとどまらず、SNS上のボットアカウントが「いつ・どの投稿に・どう反応するか」までClaudeに決めさせていました。

このレポートで扱われた事例は4つ。政治的な影響工作サービス、IoTカメラの認証情報収集、求人詐欺、そして技術力を超えたマルウェア開発です。いずれもAnthropicが検知・調査のうえアカウントを停止しています。

事例1: 複数クライアント向けの世論工作ネットワーク

Anthropicが停止した最大規模の事例は、金銭目的の「influence-as-a-service(世論工作の請負サービス)」でした。X(Twitter)とFacebookにまたがる100以上のボットアカウントをClaudeに管理させ、複数の政治的立場のペルソナを演じ分けさせていたのです。

もっとも重大な点は、Claudeが「いいね・シェア・コメント・無視のどれを選ぶか」という戦術的な判断そのものを担っていたことです。政治的なナラティブ(語り口)は国家関与のキャンペーンに見られる傾向と一致していましたが、Anthropicはこの帰属を確定していません。

この事例が示すのは、生成AIが「何を書くか」だけでなく「いつ、誰に、どう反応するか」という運用判断まで担い始めているという変化です。エージェント型AIの進歩とともに、この種の半自律的な不正利用は増えていくと見られます。

事例2: IoTセキュリティカメラの認証情報スクレイピング

2つ目の事例は、セキュリティカメラに紐づく漏洩済みのユーザー名・パスワードを収集し、不正アクセスの実行能力を構築しようとした攻撃者です。この攻撃者は商用の情報漏洩データベースや、窃取ログを扱う非公開のTelegramコミュニティを組み合わせた高度なインフラを維持していました。

Claudeは主に技術面の強化に使われました。オープンソースのスクレイピングツールキットの書き直し、対象URLの収集スクリプト作成、窃取ログの処理システム構築、検索UIの改善です。これらの技術要素の多くはデュアルユース(善意の用途にも転用できる)ですが、Anthropicは文脈全体、つまりデバイスへの不正アクセスを可能にする意図を踏まえて判定したとしています。実際の不正アクセスが成功したかどうかは確認されていません。

事例3: 求人詐欺 — リアルタイムの文章添削で信頼性を偽装

3つ目は、東欧の求職者を主な標的にした求人詐欺キャンペーンです。攻撃者は実在企業の採用担当者を装い、Claudeにネイティブスピーカー風の文章添削をリアルタイムで依頼していました。

非ネイティブの拙い英文をClaudeに投げ、ネイティブが書いたかのように整えさせる。この「言語のロンダリング」によって、詐欺コミュニケーションの見た目の専門性が高まっていました。面接の想定問答やシナリオの作成にもClaudeが使われています。応募者の個人情報を狙った活動でしたが、詐欺の成立自体は確認されていません。

事例4: 初心者がスキルを超えたマルウェアを開発

4つ目の事例は、正規のコーディングスキルが限定的だった人物が、Claudeの助けを借りて能力を急拡大させたケースです。最初は基本的なスクリプトだったツールキットが、顔認識やダークウェブスキャン機能を備えた高度なスイートへと進化しました。

マルウェアビルダーも、単純なバッチスクリプト生成ツールから、セキュリティ対策の回避と侵入の持続を重視したGUI付きの本格的なツールへと発展しています。この事例は、AIが悪意ある行為者の学習曲線を押し下げる典型例です。実世界での展開が確認されたわけではありません。

世論工作ネットワークの商業的な構造

事例1のオペレーターは、単発の攻撃者ではなく商業サービスとして運営されていた点が特徴です。米国外の複数の国を対象に、異なる政治的立場を持つクライアントごとにナラティブのポートフォリオを維持していました。クライアントごとに一貫したペルソナを作り分け、政治的な整合性を保ったまま複数の言語で反応を生成する。これは単発のbot運用ではなく、継続的な受注を前提にしたビジネスモデルです。

Anthropicはこの操作についてバイラル化を狙っていなかった点も指摘しています。派手な拡散よりも、穏健な政治的見解を長期にわたって浸透させる方針を取っていたためです。検知が難しい理由もここにあります。短期間で急拡大するアカウント群と違い、地道な運用は既存の異常検知の網をすり抜けやすくなります。

「実害未確認」という表現の意味

4つの事例すべてで、「実害の成立や不正アクセスの成功は確認していない」という留保が付いています。これは、悪用の意図や技術的な準備が実害の発生と同義ではないという検証基準を反映したものです。攻撃者の意図と実装能力が確認できた時点でアカウントを停止し、実害の立証を待たないという運用方針だと読めます。

言い換えると、Anthropicの脅威インテリジェンスチームは「未遂」の段階で介入することを重視しています。求人詐欺やIoTカメラの事例のように、被害者側の届け出を待っていては手遅れになりかねない性質の脅威に対しては、この早期介入型の運用が理にかなっています。一方で、実害が確認されていない事案が「脅威レポート」として公表される以上、読者は数字の重みを事例ごとに見極める必要があります。

Anthropicはどうやってこれらを見つけたか

調査には、Anthropicが公開済みの研究成果であるClio(会話データの分析手法)と階層的要約(hierarchical summarization)の技術が使われました。大量の会話データからパターンを効率的に抽出する手法です。

これに加えて、ユーザーの入力とClaudeの出力の両方を審査するクラシファイア(自動判定モデル)が組み合わさり、検知・調査・アカウント停止までの一連の対応を可能にしています。この体制は、その後2026年に発表されたEnterprise Frontier Safeguards(Enterprise Frontier Safeguardsを発表)のような、ゼロデータ保持環境でも悪用を検知する仕組みの土台にもなっています。

Anthropicが得た3つの教訓

検知体制から得た教訓は3点です。

1つ目は、フロンティアモデルを使って複雑な不正利用システムを半自律的に運用し始めるユーザーが増えていることです。エージェント型AIの性能が上がるほど、この傾向は続くとAnthropicは見ています。

2つ目は、生成AIが技術力の低い攻撃者の能力を底上げする効果です。本来はより高度な専門知識が必要な作業を、経験の浅い攻撃者でもこなせるようになります。事例4のマルウェア開発者はその典型で、基本的なスクリプトしか書けなかった人物が、顔認識機能付きのツールキットまで作り上げました。

3つ目は、Anthropicの脅威インテリジェンスプログラムが担う役割そのものです。標準的な大規模検知の網では拾いきれない被害を見つけ出し、攻撃者がどのようにモデルを悪用しているかという文脈を補うセーフティネットとして機能しています。

4つの事例は検知の難しさがどう違うか

検知の難しさと実害の確認状況は事例ごとに差があります。

検知の難しさには差がある一方、4件とも「実害の確認には至っていない」という共通点があります。実害の有無にかかわらず、検知した時点でアカウントを停止し、得られた知見を検知システム全体の改善に還元するという運用方針が貫かれています。

この報告書が示す変化

4つの事例に共通するのは、AIが「助言役」から「実行役」へと役割を広げているという変化です。世論工作の事例ではエンゲージメント判断そのものをAIに委ね、マルウェアの事例ではスキル不足を補う実装役としてAIが機能していました。Anthropicが2025年8月に公開した続報(Claudeの悪用事例 — 2025年8月版レポートで見る手口の変化)では、この傾向がさらに進み、Claude Codeを使った大規模な恐喝オペレーションにまで発展しています。

Claude利用者にとっての実務的な示唆は、Anthropicの検知体制がクラシファイアと会話分析の組み合わせで機能している以上、Usage Policyに違反する使い方は遅かれ早かれ検知対象になるという点です。個人開発者が意図せず境界線に近づくケースについては、Claude Codeの「Usage Policy refusal」の意味と対処も参考になります。

こうした検知の積み重ねは、政策提言の裏付けにもなっています。Anthropicが半年ほど前に主張していた的を絞ったAI規制の必要性は、抽象的な将来リスクの話ではなく、実際に検知した悪用事例の延長線上にある議論です。

まとめ

2025年3月版レポートは、世論工作の実行判断・IoT機器への不正アクセス準備・求人詐欺・スキルを超えたマルウェア開発という4つの事例を通じて、AIの悪用が「文章生成の補助」から「運用判断の代行」へ広がっている実態を示しました。Anthropicはすべての事例でアカウントを停止し、得られた知見を検知システムの改善に反映しています。次の8月版レポートでは、この傾向がさらに大規模かつ自律的な方向に進みます。