米アンソロピックCEO“AI開発ペース減速させる必要” | NHKニュース

アメリカのAI新興企業アンソロピックのCEOは、AIが急速に進歩し、人間が制御する能力を上回る可能性があるとして、開発を減速させる必要があるとの考えを示しました。

アンソロピックのダリオ・アモデイCEOは12日、自身のブログに「AIモデルの能力を向上させるペースを落とさなければならない」と投稿し、業界全体で開発を減速させる必要性を強調しました。

その背景として「AIは非常に強力な技術で、深刻なリスクをはらむ。リスクの中には、AIシステムの制御喪失、サイバー攻撃、バイオテロへのAIの悪用、そして深刻な経済混乱などが含まれる」と指摘し、商業的な開発競争がリスクを深刻化させる可能性に危機感を示しました。

さらに、ことしの夏以降、AIの進歩が劇的に加速しているとして「このまま放置すれば、私たちがAIを理解し制御する能力を上回るおそれがある」と警鐘を鳴らしています。

最先端のAI技術をめぐっては、ことし7月、オープンAIが開発中のAIモデルが、他社にサイバー攻撃を仕掛け、重要な情報を取得したことが明らかになっています。

今月8日には、オープンAIとアンソロピックが開発に突き進んでいる「超知能」＝スーパーインテリジェンスは、人々の命を奪いかねないとして、アンソロピックに所属する研究者が退社を表明し、大きな話題となりました。

一方で、企業が開発を減速しても、中国などとの開発競争が激しさを増す状況は変わらず、業界や世界全体で足並みをそろえて減速することは容易ではないとの見方も出ています。