AIが自ら次世代のAIを開発・改良する「再帰的自己改善（RSI）」をめぐり、にわかに注目が集まっています。Google DeepMindがこの段階に到達した可能性があるとの未確認情報が浮上する一方、AnthropicやOpenAI、イーロン・マスク氏らがAI開発のペースを抑える必要性を相次いで訴えており、AI業界ではさまざまな憶測が飛び交っています。
AnthropicがAI開発の抑制を提言
今回の動きの発端となったのが、Anthropicのダリオ・アモデイCEOによる公開書簡です。同氏はAIの進化速度が急激に高まっているとして、開発を慎重に進める必要があると主張しました。
特に警戒しているのがRSIです。AIが次世代モデルの設計や学習、コード作成などに関与することで、AI自身の能力向上がさらに加速する可能性があります。アモデイ氏は、このサイクルが人間による理解や制御を上回る可能性を指摘し、安全性を確認しながら進めるべきだとしています。
Anthropicは今後、外部の評価機関を開発プロセスに関与させ、安全対策やAIモデルの整合性を検証する方針も示しています。
OpenAIやイーロン・マスク氏も呼応
この提言にはOpenAIのサム・アルトマン氏や、SpaceXを率いるイーロン・マスク氏も反応しており、AI開発の速度を抑える必要性を訴える動きが広がっています。
ただし、こうした主張に対しては懐疑的な見方もあります。AIの安全性を理由に開発速度を抑えることで、結果的に大手AI企業が市場で有利な立場を維持し、新興企業やオープンモデルを開発する企業の参入を難しくするのではないか、という指摘です。
特に中国ではDeepSeekなどのAI企業が急速に存在感を高めており、こうした競争環境も今回の議論を複雑にしています。
Google DeepMindのRSI到達説も浮上
さらに今回、Google DeepMindがRSIに近い、あるいはすでに達成した可能性があるとの噂が浮上しています。
RSIが実現すれば、AIが次のAIを作ることで開発サイクルそのものが高速化し、従来のAI開発とは比較にならないペースで性能が向上する可能性があります。
ただし、現時点ではGoogle DeepMindが実際にRSIを達成したことを裏付ける確かな情報は確認されていません。そのため、今回の情報はあくまで噂の段階として見る必要があります。
一方で、AnthropicがこのタイミングでRSIへの警戒を強く打ち出したことから、AI業界の内部で実際に開発速度や自己改善能力をめぐる懸念が高まっている可能性はありそうです。
AI開発の抑制をめぐる議論は、安全性だけでなく、企業間の競争や規制、オープンモデルの扱いにも関係してきます。Google、Anthropic、OpenAIなどが今後どのような姿勢を示すのか、そしてAIが自らの開発を加速させる段階に本当に入ろうとしているのかが、大きな焦点になりそうです。
