“AIが人々の命奪いかねない”アンソロピック研究者が退社表明 | NHKニュース

アメリカのAI新興企業「アンソロピック」の研究者が、自律的に改善を続ける「超知能」の開発に会社が突き進み、人々の命を奪うことになりかねないとして退社を表明しました。ことし7月には、開発中のAIモデルがサイバー攻撃を仕掛けたことが明らかになっていて、AIが社会に与える影響をめぐる議論が、いっそう高まることになりそうです。

退社を表明したのは、AIを開発するオープンAIとアンソロピックでAIの事前学習に携わったジェイコブ・コクソン氏です。

コクソン氏は8日、自身のSNSに投稿し、オープンAIとアンソロピックが自律的に改善を続ける「超知能」の開発に突き進み、人類を危険にさらしているとしたうえで、両社とも責任ある行動をとっていないと批判しています。

コクソン氏は「この技術の力を過小評価してはいけない。AIはすぐに人間を超えたシステムとなり、すべてをハッキングできるようになる。良心的なAIの開発者たちは、2020年代のうちにAIが人々の命を奪いかねないと信じている」としたうえで、AIモデルの能力向上を一時的に禁止するといった措置の必要性に言及しています。

コクソン氏の投稿を受け、アンソロピックの現役の研究者も、懸念に同調する投稿をしました。

ことし7月には、オープンAIが開発中のAIモデルが、環境のぜい弱性を見つけて他社にサイバー攻撃を仕掛け重要情報を取得したことが明らかになっていて、コクソン氏の退社の表明をきっかけに、AIが社会に与える影響をめぐる議論がいっそう高まることになりそうです。