OpenAIが、機密情報を外部に漏らした疑いを巡る社内調査の結果、セキュリティー研究者3人を解雇したと報じられました。米The Wall Street Journalが関係者の情報として伝えています。
解雇された研究者らは、機密情報を不適切に開示したとの指摘を否定しています。また、AIの安全性を確保するための監視体制の強化を求めてきたことが、解雇につながった可能性があると主張しています。一方、OpenAIは社内規定への違反が解雇の理由だと説明しており、両者の主張は食い違っています。
今回の問題は、AI開発企業が技術情報を保護する必要性と、高度化するAIの安全性を検証するための透明性をどう両立させるかという課題も浮き彫りにしています。
個人スマートフォンの調査後に3人を解雇
The Wall Street Journalによると、解雇されたのはTomek Korbak氏、Mikita Balesni氏、Jasmine Wang氏の3人です。
OpenAIのセキュリティー担当者は先月、3人をそれぞれ呼び出し、個人所有のスマートフォンのロックを解除するよう求めたとされています。その約1週間後、3人は解雇されたと報じられています。
OpenAI側は、社内調査によって機密情報の取り扱いに関する規定違反が確認されたと説明しています。一方、元従業員らは不適切な情報開示を否定し、自分たちがAIの安全性に関する監視体制の強化を訴えていたことも、今回の処分に関係していると主張しています。
ただし、現時点で公開されている情報だけでは、実際にどのような情報が外部に共有されたのか、また解雇の判断にどのような事情が影響したのかは明らかになっていません。
Signalでのやり取りが調査対象に
今回の調査では、暗号化メッセージアプリのSignalを使ったやり取りも焦点の一つになったとされています。
3人は、独立系のAIセキュリティー研究者であるRyan Greenblatt氏と、高度なAIシステムの問題や、AI業界におけるモデルの監視方法などについて連絡を取り合っていたと報じられています。
OpenAIの調査担当者は、こうしたやり取りを通じて、社内のAIモデルの設計などに関する機密情報が外部に漏れた可能性を調べたとされています。
Signalには、一定時間が経過するとメッセージを自動削除する機能があります。そのため、やり取りの内容によっては、後から確認できる記録が限られる可能性があります。
ただし、Signalを利用していたこと自体が機密情報の漏えいを意味するわけではありません。元従業員らは不適切な情報開示を否定しており、OpenAI側も問題はメッセージのやり取りだけに限定されず、情報管理に関するより広範な規定違反に及んでいたと説明しています。
AIの推論過程を監視できなくなる懸念
今回の対立では、機密情報の取り扱いだけでなく、AIの内部処理をどのように監視すべきかという技術的な問題も背景にあります。
解雇された研究者らは、AIモデルが問題を解く際の内部的な推論過程を、可能な限り確認できる状態に保つべきだと主張してきました。こうした推論過程は、一般にChain of Thought（CoT）と呼ばれます。
AIがどのような手順で結論に至ったのかを分析できれば、研究者はモデルの判断傾向や問題のある挙動を調べる手掛かりを得られます。特に、AIが危険な行動を取ったり、問題のある振る舞いを意図的に隠したりする可能性を検証するうえで、内部処理の分析は重要な研究課題となっています。
研究者らは、新しいAIアーキテクチャの導入によって推論過程が見えにくくなれば、危険な挙動や欺瞞的な振る舞いを発見するための手段が弱まる可能性があると懸念していました。
また、外部のセキュリティー研究機関との協力や、AI業界全体で監視能力を維持するための取り組みも支持していたとされています。
3人は解雇後、OpenAIの経営陣や取締役会に対して、独立した監督体制の強化と、自律性を高めるAIエージェントに伴うリスクへの対応を求めたと報じられています。
企業秘密の保護とAIの安全性検証は両立できるのか
AI開発競争が激化するなか、モデルの設計や学習に関する情報は、企業にとって重要な知的財産となっています。開発企業が機密情報を厳格に管理することには、競争力を維持するうえで合理的な理由があります。
一方、セキュリティー研究者らは、技術情報へのアクセスが過度に制限されれば、AIの危険な能力や予期しない挙動を外部から検証することが難しくなると指摘しています。
OpenAIは、従業員が正当な安全性上の懸念を報告しても、不利益を受けることはないとの立場を示しています。今回の解雇についても、研究方針を巡る意見の違いではなく、社内規定への違反が理由だと説明しています。
これに対して元従業員らは、今回の対応によって、ほかの従業員が安全性に関する問題提起をためらったり、社外の研究者との協力を控えたりする可能性があると懸念しています。
今回の報道だけで、どちらの主張が正しいのかを判断することはできません。しかし、AI開発企業が機密情報を守りながら、独立した立場からの安全性検証をどのように確保するのかという問題は、今後ますます重要になりそうです。
自律的に複数の作業を進めるAIエージェントが普及すれば、その判断や行動を人間が適切に把握し、問題が起きた際に原因を検証できる体制が求められます。技術情報の保護と透明性の確保をどのように両立させるかは、OpenAIだけでなく、AI業界全体にとって避けて通れない課題となっています。
