アンソロピックもAIが不正アクセス　外部接続の誤設定で3件の問題

Anthropicは30日、サイバーセキュリティ評価中のClaudeが、実在する3組織の本番インフラに不正アクセスした事例を公表した。インターネットに接続した可能性がある141,006回の評価実行を調査し、3件のインシデントに含まれる計6回の実行を特定した。 いずれも第三者評価パートナーのIrregularが用意した環境で、モデルの攻撃能力を測る「キャプチャー・ザ・フラッグ」を実施していた。Anthropicの評価プロンプトには、環境がシミュレーションであり、インターネットには接続できないと明記していた。 しかし、AnthropicとIrregularの間でテスト環境の設定について認識のズレがあり、AIが操作するコンピューターから実際のインターネットに接続できる状態になっていた。AIへの指示には「フラッグ(標的)」を探す場所に明確な制限がなかったため、Claudeは外部で見つけたシステムも練習の一部だと判断。 両社は、評価開始前に外部への接続経路を十分に検証し、評価ログをリアルタイムで監視していれば、問題を早期に発見できたとしている。評価記録やネットワークログについても、より詳細な確認が必要だったと説明した。 Claudeは弱いパスワードや認証されていないエンドポイント、SQLインジェクションなどを使ってアクセスした。複雑な脆弱性の発見や悪用は確認されていない。 1件目では「Claude Opus 4.7」が実在企業のインフラに侵入し、認証情報や数百行の本番データを含むデータベースへアクセスした。モデルは実在するシステムの可能性を認識した後も攻撃を継続した。 2件目では「Claude Mythos 5」が悪意のあるPythonパッケージをPyPIで公開した。同パッケージは約1時間公開され、15台の実機で実行。セキュリティ会社のスキャナーから認証情報を取得し、同社の別のインフラにもアクセスした。 3件目では内部研究用モデルが約9,000件の対象をスキャンし、企業の外部向けアプリケーションを侵害した。一方、接続先が演習と無関係な実在環境だと判断した時点で攻撃を停止した。 Anthropicは7月23日に記録の確認を始め、同日中にすべてのサイバー評価を停止。7月27日にIrregularと影響を受けた3組織へ通知した。今後は外部接続経路の事前確認や継続監視、調査ツールの改善、評価ベンダーとの確認作業を強化する。 7月21日にOpenAIは、自社のモデルがHugging Faceの本番環境を攻撃したことを公表。このことが大きな問題となったことをうけ、Anthropicが自社の調査を開始した結果判明したという。 In a review of our cybersecurity evaluations, we found three incidents in which a Claude model reached the internet from within or while interacting with a third-party evaluation environment, and then gained unauthorized access to the real systems of three different… — Anthropic (@AnthropicAI) July 30, 2026