米アンソロピック AIが意図せず警察に殺人事件の架空情報送信 | NHKニュース

アメリカのAI開発企業「アンソロピック」は、自社の生成AIが性能のテスト中、警察のウェブサイトにある窓口に殺人事件に関する架空の情報を送信するなどといった意図しない動作を行っていたと発表しました。

アンソロピックは、9日、ホームページで自社の生成AIが意図しない動作を行っていた事例を発表しました。

このうちの1つでは生成AIが性能テスト中にペンシルベニア州・フィラデルフィアの警察当局のウェブサイトにある未解決の殺人事件に関する情報提供窓口に架空の情報を送信したということです。具体的には、「事件に関係する情報を持っている可能性がある。説明と合致する人物を見た」などと送信していました。

名前や連絡先は空欄のまま送信されて迷惑投稿として扱われ、捜査には使われなかったとしていますが、地元メディアは事案があったのはことし7月で、警察当局は「発見と市への報告が2か月も遅れたことは容認できない」としていると伝えています。

また、アンソロピックは、ほかの事案の対象となった組織などを発表していませんがアメリカの有力紙、ニューヨークタイムズは、生成AIがアメリカ国務省のウェブサイトでビザの申請手続きを行ったと伝えています。

今回確認された事案については再発防止策を講じたとしていますが、アンソロピックの生成AIはこれまでにも外部組織にサイバー攻撃を行った事例などもあり開発の推進と安全性の確保をどう両立するかが求められています。