アンソロピック、「AI悪用」レポート　国家による影響工作や中国AIの蒸留を非難

Anthropic(アンソロピック)は10日(米国時間)、AIの悪用についてまとめたレポートを公開した。サイバー攻撃や、監視、影響工作、通常兵器、生物兵器の悪用、詐欺・不正行為、違法蒸留など、Claudeの悪用事例についてまとめており、ロシアに諜報活動での悪用や、競合となるオープンウェイトモデルによる蒸留などについて紹介している。 レポートでは、2025年12月から2026年8月にかけてAnthropicが阻止した、Claudeの悪用について、「注目すべき斬新な脅威活動」の事例を紹介している。主に「Claude Haiku」「Sonnet」「Opus」などのモデルを用いられている。1件の違法な蒸留を除き、「Fable」や「Mythos」クラスのモデルは利用されていないという。 ■ 国家レベルの攻撃を容易に 影響工作や監視など国家による悪用 サイバー攻撃については、偵察やツールの開発、データ処理や悪用まで、あらゆる攻撃作戦がAIによって能力向上したことで複雑化。少人数・低リソースでも国家レベルの攻撃が可能となったほか、攻撃の自律性が拡大しているという課題がある。 露による、ウクライナ・欧州の政府/軍/外交を標的とした攻撃では、ホテルのWi-Fiを経由したDNSハイジャック、WhatsApp乗っ取り、検知回避の自動再構築までAIが実施。また、ドローン企業の設計情報を狙うなどの動きも見せている。 また、SaaS企業経由で認証情報収集し、大規模な詐欺サイトを構築したり、中国からは、 ゼロデイ研究を自動化する「エクスプロイト工場」の活動も検知され、多くの組織が標的とされた。 影響工作では、中央アフリカにおける、ロシア国営メディアと連動したラジオ工作、フランスからの6大陸対象の影響工作サービス、マレーシア総選挙を狙った選挙操作などが見られ、こうした事例の多くに対し、Anthropicは実際の視聴者獲得前に検知・遮断しているという。 監視については、イスラエル・シンガポール系のベンダーがイラン・湾岸諸国のSNSユーザーをプロファイリングしている事例や、中国系の業者がシリア国内のウイグル人武装勢力・活動家を追跡・勧誘し、家族が新疆に残る個人を標的化とする動きなどが見られた。また、中国からは、国内外の香港民主派、天安門追悼組織まで監視する動きが確認された。 兵器利用については、イエメンにおいて誘導ロケットの誘導制御ソフトをClaude Codeで開発し、実弾テストを実施。さらに失敗後、原因分析をClaudeに依頼するといった事例を確認。ロシアの自爆ドローン開発や中国の電子戦・防空網制圧のターゲティングソフトなどへの悪用が見られた。 さらに生物学的悪用では、鳥インフルエンザの哺乳類適応研究、チクングニア熱ウイルスの機能獲得研究など5件の疑わしい事例を紹介。安全性を最優先し、これらを遮断したと説明している。 ■ 中国モデルによる不正な蒸留に対応 さらに、オープンウェイトモデルによる不正な蒸留( distillation)についても大きな問題としている。高性能な「教師」モデルの応答を使い、「生徒」モデルを訓練する蒸留自体は一般的な手法だが、Anthropicでは、これらの問題となる事例について、「モデルの能力を無断で抽出し、別モデルに複製する産業規模の秘密裏なキャンペーン」と定義、多くの中国系モデルがこうした取り組みを行なっていると非難している。 Alibaba(Qwen)は、過去最大規模の蒸留攻撃を行ない、1日最大300万件のやり取り、3,500以上の不正アカウント。5〜7月で1億5100万件超のやり取りを観測したという。また、ClaudeをAlibabaの内部の研究開発などに利用していたという。 Moonshot(Kimi)は、ユーザーには「Kimi」と偽りながら、実際はClaudeへリレーすることで、10日で約30万件を活用。これには、PLA関連の監視データ分析なども含まれていたという。 DeepSeekでは、ロシア国防省関連の認証情報や、中国警察の監視システム構築リクエストが含まれていたことが判明。Zhipu(Z.ai/GLM)では、273の不正アカウントでOpus 4.8のCoT(思考連鎖)を抽出。Fableのサイバー安全対策は突破できずOpusに切り替えていたという。 Xiaomi(MiMo)は、 40万件超のリクエストを1,500以上のアカウント経由で実施。SenseTime / MiniMax: サードパーティのリセラーからやり取りを購入し、または自社シェル企業で専用プロキシネットワークを構築していたという。 2月にAnthropicが開示して以降、中国拠点の7社による攻撃は特定・遮断。これらはすべて一般提供モデルで、非公開のMythos 5 / Mythos Previewへの攻撃は確認されていないという。 こうした産業規模の蒸留に対しては、一部のユーザーを欺いているだけでなく、「危険な能力への転用リスクが生じうる」と指摘。Claudeの安全対策は蒸留先のモデルには引き継がれないことから、大きな問題であると指摘している。 対策としてはFable 5以降で不正抽出を検知する専用分類器を強化しているほか、中国・ロシア・イランなど非対応地域からの不審なアクセスに本人確認を要求し、応じなければアカウント停止するなど、複数の対策を導入している。

Anthropic(アンソロピック)は10日(米国時間)、AIの悪用についてまとめたレポートを公開した。サイバー攻撃や、監視、影響工作、通常兵器、生物兵器の悪用、詐欺・不正行為、違法蒸留など、Claudeの悪用事例についてまとめており、ロシアに諜報活動での悪用や、競合となるオープンウェイトモデルによる蒸留などについて紹介している。 レポートでは、2025年12月から2026年8月にかけてAnthropicが阻止した、Claudeの悪用について、「注目すべき斬新な脅威活動」の事例を紹介している。主に「Claude Haiku」「Sonnet」「Opus」などのモデルを用いられている。1件の違法な蒸留を除き、「Fable」や「Mythos」クラスのモデルは利用されていないという。 ■ 国家レベルの攻撃を容易に 影響工作や監視など国家による悪用 サイバー攻撃については、偵察やツールの開発、データ処理や悪用まで、あらゆる攻撃作戦がAIによって能力向上したことで複雑化。少人数・低リソースでも国家レベルの攻撃が可能となったほか、攻撃の自律性が拡大しているという課題がある。 露による、ウクライナ・欧州の政府/軍/外交を標的とした攻撃では、ホテルのWi-Fiを経由したDNSハイジャック、WhatsApp乗っ取り、検知回避の自動再構築までAIが実施。また、ドローン企業の設計情報を狙うなどの動きも見せている。 また、SaaS企業経由で認証情報収集し、大規模な詐欺サイトを構築したり、中国からは、 ゼロデイ研究を自動化する「エクスプロイト工場」の活動も検知され、多くの組織が標的とされた。 影響工作では、中央アフリカにおける、ロシア国営メディアと連動したラジオ工作、フランスからの6大陸対象の影響工作サービス、マレーシア総選挙を狙った選挙操作などが見られ、こうした事例の多くに対し、Anthropicは実際の視聴者獲得前に検知・遮断しているという。 監視については、イスラエル・シンガポール系のベンダーがイラン・湾岸諸国のSNSユーザーをプロファイリングしている事例や、中国系の業者がシリア国内のウイグル人武装勢力・活動家を追跡・勧誘し、家族が新疆に残る個人を標的化とする動きなどが見られた。また、中国からは、国内外の香港民主派、天安門追悼組織まで監視する動きが確認された。 兵器利用については、イエメンにおいて誘導ロケットの誘導制御ソフトをClaude Codeで開発し、実弾テストを実施。さらに失敗後、原因分析をClaudeに依頼するといった事例を確認。ロシアの自爆ドローン開発や中国の電子戦・防空網制圧のターゲティングソフトなどへの悪用が見られた。 さらに生物学的悪用では、鳥インフルエンザの哺乳類適応研究、チクングニア熱ウイルスの機能獲得研究など5件の疑わしい事例を紹介。安全性を最優先し、これらを遮断したと説明している。 ■ 中国モデルによる不正な蒸留に対応 さらに、オープンウェイトモデルによる不正な蒸留( distillation)についても大きな問題としている。高性能な「教師」モデルの応答を使い、「生徒」モデルを訓練する蒸留自体は一般的な手法だが、Anthropicでは、これらの問題となる事例について、「モデルの能力を無断で抽出し、別モデルに複製する産業規模の秘密裏なキャンペーン」と定義、多くの中国系モデルがこうした取り組みを行なっていると非難している。 Alibaba(Qwen)は、過去最大規模の蒸留攻撃を行ない、1日最大300万件のやり取り、3,500以上の不正アカウント。5〜7月で1億5100万件超のやり取りを観測したという。また、ClaudeをAlibabaの内部の研究開発などに利用していたという。 Moonshot(Kimi)は、ユーザーには「Kimi」と偽りながら、実際はClaudeへリレーすることで、10日で約30万件を活用。これには、PLA関連の監視データ分析なども含まれていたという。 DeepSeekでは、ロシア国防省関連の認証情報や、中国警察の監視システム構築リクエストが含まれていたことが判明。Zhipu(Z.ai/GLM)では、273の不正アカウントでOpus 4.8のCoT(思考連鎖)を抽出。Fableのサイバー安全対策は突破できずOpusに切り替えていたという。 Xiaomi(MiMo)は、 40万件超のリクエストを1,500以上のアカウント経由で実施。SenseTime / MiniMax: サードパーティのリセラーからやり取りを購入し、または自社シェル企業で専用プロキシネットワークを構築していたという。 2月にAnthropicが開示して以降、中国拠点の7社による攻撃は特定・遮断。これらはすべて一般提供モデルで、非公開のMythos 5 / Mythos Previewへの攻撃は確認されていないという。 こうした産業規模の蒸留に対しては、一部のユーザーを欺いているだけでなく、「危険な能力への転用リスクが生じうる」と指摘。Claudeの安全対策は蒸留先のモデルには引き継がれないことから、大きな問題であると指摘している。 対策としてはFable 5以降で不正抽出を検知する専用分類器を強化しているほか、中国・ロシア・イランなど非対応地域からの不審なアクセスに本人確認を要求し、応じなければアカウント停止するなど、複数の対策を導入している。