Googleは、AIモデルのサイバーセキュリティテスト中にGeminiが実在する3社のシステムへ侵入していたことを認めました。2026年5月に実施されたテストで発生したもので、Geminiがインターネットへアクセスし、実際の企業に対してハッキングを試みていたことになります。
この問題はWall Street Journalの調査報道をきっかけに明らかになったもので、Googleは3社に被害が発生していないことや、Geminiが実在する企業への侵入だと認識した時点で行動を停止したと説明しています。
3社への侵入を確認
今回のテストは、AIセキュリティ企業のIrregularと共同で実施されました。Googleによると、Geminiはテスト中に3つの企業のシステムへアクセスしています。
そのうち1件では、Geminiがパスワードを推測してシステムへの侵入に成功しました。残る2件では、公開リポジトリから発見した認証情報を利用してアクセスしたとされています。
問題となったのは、これらが単なるシミュレーション環境ではなく、実在する企業のシステムだったことです。
GoogleはWall Street Journalから問い合わせを受けるまで、この件を公表していませんでした。3社にはすでに通知しており、実際の被害は発生していないとしています。
また、テスト環境ではIrregular側が意図せずインターネットへのアクセスを開放した状態にしていたことも明らかになっています。
Googleは「モデルの逸脱」には当たらないと説明
Googleは今回の事例について、AIモデルが安全対策を無視して暴走したケースとは捉えていません。
Geminiは当初、サイバーセキュリティテストの一環として行動していましたが、侵入先がシミュレーションではなく実在する企業だと認識すると、その行動を停止したと説明しています。
Googleのセキュリティエンジニアリング担当バイスプレジデントであるHeather Adkins氏は、今回の出来事について、高度なAIモデルに責任ある行動を取るよう訓練することの重要性を示す事例だと説明しています。
また、Googleはテストで発見された問題を関係企業に知らせること自体はセキュリティチームが以前から行っている取り組みだと説明し、今回も3社への通知を実施したとしています。
OpenAIやAnthropicでも類似事例
AIモデルがサイバーセキュリティテストの範囲を超えて、実際のシステムへの侵入につながる事例はGoogleだけではありません。
OpenAIやAnthropicでも、AIモデルがセキュリティテスト中に実在する組織を攻撃する事例が報告されています。AIの能力が高まるにつれて、テスト環境と現実のシステムをAI自身がどのように区別するのか、そして想定外の行動をどこまで防げるのかが重要な課題になっています。
Googleによると、今回のテストで発生した侵入については連邦当局にも通知したとのことです。一方、実際に使用されたGeminiのモデル名は明らかにされていません。
テストが行われたのは2026年5月であるため、同年後半に登場した最新世代のGeminiではないことは明らかですが、具体的なモデルについては不明です。
今回の事例は、AIをサイバーセキュリティの検証に利用する際、テスト環境そのものの管理も重要になることを示しています。AIモデルの能力が向上するほど、意図したテストと現実のシステムとの境界をどのように維持するかが、今後さらに重要になりそうです。
