OpenAI、Google DeepMind、Anthropicの3社が、次世代AIモデルの安全性を高めるため、共通の安全基準や外部評価の仕組みについて非公開で協議していると報じられています。競合関係にある大手AI企業が、AIの安全性をめぐって協力する動きとして注目されています。
今回の構想では、AIモデルの完成後だけでなく開発途中の段階から独立した第三者が評価できる体制を整えることが検討されているとされます。AIが高度化するにつれて、公開直前のテストだけでは発見しにくい問題への対応が課題になっているためです。
開発途中のAIを第三者が検証
この動きが公になったきっかけの一つが、AnthropicのCEOであるDario Amodei氏によるAI安全性に関する提言です。
Amodei氏は、AI開発企業の内部に独立した第三者評価機関を組み込むことを提案しており、OpenAIのSam Altman氏やGoogle DeepMindのDemis Hassabis氏も、この考えに支持を表明したとされています。
OpenAIの政策責任者Chris Lehane氏も、3社が非公開で協議を進めていることを認めています。
これまでAI企業では、完成したモデルを公開する直前に外部の研究機関などが安全性を検証するケースが一般的でした。しかし、AIが評価されていること自体を認識し、テスト中だけ問題のある行動を隠す可能性が指摘されるなど、従来の評価方法だけでは十分ではないとの懸念があります。
そこで今回の構想では、METR、Apollo Research、Redwood Researchなどの独立した研究組織が、AIの学習途中にあるモデルのチェックポイントへアクセスできる仕組みが検討されています。
モデルの挙動だけでなく、システムログを調査したり、開発担当者への聞き取りを行ったりすることで、AIが評価時だけ安全に振る舞っていないかを確認することが狙いです。
自主的な取り組みだけでは不十分との指摘も
一方で、第三者による監査を導入すれば、それだけでAIの安全性が保証されるわけではありません。
外部評価機関からは、これまでのテスト期間が数日程度に限定されるケースもあり、十分な検証を行うには時間が足りないとの指摘があります。また、企業が自主的に参加する取り組みの場合、経営環境や市場競争の状況が変化した際に、同じ水準の監査を継続できる保証もありません。
そのため研究者らの間では、企業の自主的な約束だけでなく、透明性を確保したうえで法的拘束力を持つ枠組みが必要だとの意見も出ています。
3社の協力には独禁法上の問題も
競合するAI企業が安全性について共同で取り組むことには、別の課題もあります。
企業間で共通のルールを設定することで、競争を不当に制限していると規制当局から判断されれば、独占禁止法や競争法上の問題につながる可能性があります。
Amodei氏は安全性に関する協力について、政府による限定的な適用除外を求める可能性にも言及しています。一方、OpenAI側は特別な適用除外がなくても、安全性に関する協議は合法的に進められるとの立場を示しています。
AIの急速な進化を背景に、各国ではAI規制の整備も進んでいます。EUではAI Actが段階的に施行されており、AI開発企業に対する安全性やリスク管理の要求も強まっています。
今回の協議が最終的にどのような制度へつながるのかはまだ分かりませんが、OpenAI、Google DeepMind、Anthropicという主要なAI開発企業が、競争とは別に安全性の共通基準や第三者による検証について話し合っている点は注目されます。
AIモデルが高度化するほど、開発企業自身によるテストだけでなく、外部から独立して検証できる仕組みをどこまで整備できるかが重要になりそうです。
