《今こそ知りたい！》上場間近のAI企業･アンソロピック、設立のきっかけとなった「オープンAIの内紛」とは？

オープンAIと並んでAI開発競争の先端を走る巨大企業・アンソロピックが、IPO(新規株式公開)に向けて目論見書を提出した。日経新聞の報道によれば、11月中にナスダックへ上場し、時価総額は1兆ドルを超えると推定されている。 アンソロピックの共同設立者であり、現在でもCEOを務めているのが、ダリオ・アモデイ氏。 実は彼は、もともとはオープンAIの社員であったことをご存じだろうか？　 アモデイはオープンAIのなかでも「安全性派閥」とよばれる、もし仮に超知能AIが暴走すれば人類は滅亡してしまうのではないか、というリスクを重く受け止めていたグループの急先鋒だった。

彼は「超知能AIの安全性」をめぐって、オープンAIのCEOであるサム・アルトマンと激しく対立し、やがて自ら会社を立ち上げるに至ったのだ。 その経緯について、カレン・ハオ著『Empire of AI(エンパイア オブ AI)』の第6章から、抜粋・編集してお届けする。 ■GPT-3の成功がすべてを変えた 　2020年にリリースされたGPT-3のAPI(アプリケーション・プログラム・インターフェース)の成功を受けて、もともと同社に出資していたマイクロソフトはオープンAIとの関係を深める決断を下した。

　アルトマンは、利益上限を新たに以前の6倍に設定し、マイクロソフトからのさらなる20億ドルの投資を求めた。大規模言語モデルの商業的価値の高さに気づいたオープンAIは焦点を定めた。 2020年夏の終わりごろ、会社は先行するプロジェクトチームであった ロボット工学チームを解散させた。スタッフのほとんどはGPTプロジェクトに移り、2人の機械エンジニアが解雇された。マイクロソフトは9月、オープンAIからGPT-3の独占ライセンスを得て、モデルの配布を劇的に加速すると発表した。

　オープンAIがそのAPI経由でGPT-3を提供しつづけることに加えて、マイクロソフトがモデルの重みへの完全なアクセスを得たのである。同社のクラウドサービスであるアジュールにおける独自APIの提供など、自社の製品やサービスに、必要に応じてGPT-3を組み込めるようになった。 ■アルトマンによる安全性派閥への「虐待」 　従業員が自宅からリモートでオープンAIの新たな成功を祝うなか、ダリオ・アモデイ、彼の妹であり安全・政策担当副社長になっていたダニエラ・アモデイ、ジャック・クラーク、そしてネストチームの中核メンバーとして働いていたAI安全性研究者の数名が、スラックで突然静かになった。舞台裏では、ダリオを含む複数が個別の取締役会メンバーを相手に、アルトマンの行動に関する懸念について話していた。

　アルトマンは、マイクロソフトとの契約とGPT-3のリリースに関するオープンAIの決定のどちらも既成事実にしてしまったが、その際に反対派を操作して、彼らに自分たちにはまだ発言権があると信じ込ませた。気づいたときにはもう手遅れだった。 　そのようなアプローチがいつか壊滅的な危機、あるいは人類存亡のリスクを招く恐れがあると信じていただけでなく、それが個人的な痛みを伴うことも、リーダーシップチームの結束を損なうこともわかっていた、と。

　アモデイ兄妹はまわりの人々に、アルトマンのやり方はこちらが間違っていると思い込ませようとする「心理的虐待」だと主張した。 　グループとしての立場を失いつつあった彼らは、新しいアイデアを中心に団結を固めた。ダリオ・アモデイはそのアイデアを、最初に、大学院の時からの親しい友人で元ルームメイトでもあり、オープンAIではパートタイムで働き、スケーリングの法則の発見を率いたジャレッド・カプランに、次にダニエラ、クラーク、そしてAI安全性に関する見解で自分に完全に忠実な研究者やエンジニア、そのほか少数の人々に示唆した。

　このままオープンAIでAIの安全性を求めて戦いつづける理由が本当にあるだろうか？　　みずからのビジョンを追うために、離脱できないだろうか？　 　何回か議論を繰り返したのち、もし去るつもりなら、すぐに行動を起こす必要があると結論づけた。「スケーリングの法則」が作用して、競合企業を立ち上げる時間はどんどん減っていくだけだ。 　「スケーリングの法則が働くということは、最前線のAIをトレーニングするための要件がどんどん高くなることを意味している」とアモデイとともに行動したある人物は説明する。「だから、もしオープンAIを去って何かをしたければ、急ぐ必要があった」

■新会社・アンソロピックの設立 　2020年後半、全社集会が開かれ、従業員はビデオ会議にログインした。アルトマンがダリオ・アモデイにマイクを渡した。アモデイは指先で巻き毛をいじりながら、いつものように落ち着きのないエネルギーを発散していた。 　そして、あらかじめ用意した声明文を通じて、自分とダニエラ、そして複数のメンバーが独自の会社を設立するために去ると発表した。アルトマンが辞めていく全員に、会議から出るよう促した。

　翌年の5月、去ったグループが新しい公益法人の設立を発表した。アンソロピックである。 　のちにアンソロピックの人々は、今回の「離婚」の原因として、AI安全性アプローチに対する意見の不一致を挙げることになる。それは事実ではあるが、そこには権力の問題も絡んでいた。 　ダリオ・アモデイは自分の原則を忠実に守りながらアルトマンから距離を置きたいと願っていたのと同じくらい、自分の価値観とイデオロギーにもとづいて行動するために、AI開発においてより大きなコントロールを得たいとも望んでいた。

■オープンAIと同じ轍を踏むアンソロピック 　以後、アモデイならびにほかのアンソロピック創業者たちは、なぜオープンAIではなくアンソロピックこそが、彼らが最も重大と見なす技術のよりよい管理者なのかについて、独自の神話を語りはじめる。 　アンソロピック内の会議で最新の情報について発表する際、アモデイは「サムと違って」あるいは「オープンAIと違って」というフレーズを頻繁に使うようになる。 　しかし時間とともに、アンソロピックのアプローチはオープンAIのそれとほとんど区別がつかなくなっていった。スタイルこそ違えど、中身はほぼ同じだ。

　オープンAIと同じで、容赦なくスケールを追求するようになる。オープンAIと同じで、民主的なAI開発の支持を表明しながらも、秘密主義の文化を育んでいく。オープンAIと同じで、協力を謳うが、その設立そのものが競争に根ざしていた。