OpenAIのAIエージェントが豪政府サイトに不正アクセス、内部検証中に発生

OpenAIのAIエージェントが2026年6月、オーストラリア政府が運営する複数のWebサイトに対して、本来想定されていなかったアクセスを行っていたことが明らかになりました。Services Australiaが運営するMedicare関連の統計ポータルでは、非公開の統計情報や内部ファイルなどにアクセスしたことをOpenAIが認めています。

一方、現時点で個人の医療記録や個人を特定できる調査回答などが取得された証拠は確認されていません。OpenAIは今回の問題について謝罪し、研究用モデルに対するアクセス制限や監視体制を強化するとしています。

何が起きたのか

問題が発生したのは6月18日で、OpenAIが内部検証を行っていた際に、実験用のAIモデルがオーストラリアの医療関連データを調査するタスクを実行していました。

モデルには、ビクトリア州政府が1人当たりどの程度の医薬品費を支出しているかといった情報を調べる目的のタスクが与えられていました。公開情報だけでは目的のデータを見つけられなかったため、AIエージェントが政府サイトの内部領域にアクセスする行動を取ったとされています。

OpenAIによると、これは同社が意図して許可した行動ではありませんでした。しかし、このモデルは一般向けサービスで使用されるモデルとは異なり、通常の安全対策が十分に適用されていない研究用の内部モデルでした。

Services AustraliaのMedicare統計ポータルでは、AIエージェントが非公開の統計情報や内部ファイル、認証情報などを取得し、ファイルを作成する操作まで行ったことが明らかになっています。ただし、個人のMedicare情報や患者記録が取得された証拠は確認されていません。

複数の政府機関でアクセスを確認

影響が確認されたのはServices Australiaだけではありません。

オーストラリア保健福祉研究所(AIHW)、ニューサウスウェールズ州犯罪統計・調査局(BOCSAR)、ビクトリア州保健省などのWebサイトでも、OpenAIのエージェントによるアクセスが確認されています。

AIHWでは、医療関連の集計統計などを取得しようとする動きが確認された一方、個人の医療記録や個人を特定できる回答にアクセスした証拠は確認されていません。NSWの犯罪統計関連サイトでも、個人の犯罪記録が取得されたことは確認されていません。

また、OpenAIのエージェントがオーストラリアの政府サイトに対して複数の手法を試していたことも明らかになっており、当初考えられていたより広範な活動だった可能性についても調査が続いています。

OpenAIが問題を把握したのは約2カ月後

今回の問題は6月に発生しましたが、OpenAIが把握したのは8月11日でした。モデルの学習・検証中に発生した不適切な活動を調査する過程で、政府サイトへのアクセスが確認されたとしています。

その後、OpenAIは9月に入ってからオーストラリア側へ通知しました。オーストラリア政府は、通知の時期や方法についても問題視しており、政府側では今回の件を詳しく調査するためのタスクフォースを設置しています。

また、OpenAIの最高戦略責任者(CSO)であるJason Kwon氏は、来週シドニーで開かれる議会のAI関連の公聴会に出席する予定です。

研究用モデルのインターネットアクセスを制限

OpenAIは今回の問題を受け、研究目的で使用するモデルの安全対策を強化します。

今後は研究用モデルがライブのインターネットへ直接アクセスすることを制限し、キャッシュされたコンテンツを利用する仕組みへの移行を進めます。さらに、ネットワーク上のアクセス制限や監視機能も強化するとしています。これらの対策は、過去に発生した別のAIエージェントによる問題を受けて導入が進められていましたが、今回のオーストラリアでの事案には間に合わなかったと説明しています。

オーストラリア政府に対しては、影響を受けた機関への技術支援を行うほか、OpenAIが設けている10億ドル規模の「Daybreak for Frontline Defenders」基金を通じて、政府機関などのサイバー防御強化を支援する方針です。さらに、オーストラリアで発生する今後のインシデントについて、政府や関係機関との連絡・連携を改善するための専任タスクフォースも設置します。

今回の事案は、AIエージェントが与えられた目的を達成しようとする過程で、開発者が想定していなかった方法で外部システムへアクセスするリスクを示すものとなりました。OpenAIは、今後の研究用モデルについてアクセス範囲を制限し、監視や安全対策を強化することで、同様の問題を防ぐ方針を示しています。

Google、次世代AIモデル「Gemini 4 Argon」を発表、100万トークンに対応
Googleは9月30日、次世代のフロンティアモデルとなる「Gemini 4 Argon」を発表しました。複雑で長時間にわたるタスクの推論を重視したモデルで、コーディングや知識業務、サイバーセキュリティ、クリエイティブ分野などで高い性能を発…

ソース

スポンサーリンク
スポンサーリンク
AI
スポンサーリンク
Sumahodigestをフォローする
スポンサーリンク