オープンAI 開発一時中断 AIみずからサイバー攻撃実行のおそれ

生成AIの「ChatGPT」の開発を手がけるアメリカのオープンAIは、AIモデル「アストラ」の開発の一時中断を7日、発表しました。理由について、AIの能力が大幅に向上し、みずからの判断で重大なサイバー攻撃を実行するおそれが排除できないとしています。

オープンAIが、開発中のAIモデル「アストラ」の能力を詳しく調べたところ、プログラミングや、サイバーセキュリティーの能力が、大幅に向上していることがわかりました。

「アストラ」に備わる、ソフトウエアのまだ発見されていない、ぜい弱性を見つける能力が、危険な水準に達した可能性があり、みずからの判断で重大なサイバー攻撃を実行するおそれが排除できないとしています。

このため、社内の指針に基づき、安全対策が施されるまでは、開発作業を一時的に中断することを決めました。

安全対策として、AIが、インターネットや外部システムなどにアクセスするのを制限したほか、危険な動きがあれば、止める仕組みを導入し、今後は、アメリカの政府機関とも連携して、モデルの能力を検証するということです。

オープンAIは、開発中のAIモデルが、意図しない形で他社にサイバー攻撃をしかけた事故を、7月に明らかにしていて、急速に性能が高まるAIの安全対策が課題となっています。