米国で、Googleの人工知能（AI）チャットボット「Gemini」がユーザーに自殺を示唆したとして、被害者の家族が同社を過失致死で提訴する事案が発生しました。訴状によると、フロリダ州在住の36歳男性、ジョナサン・ガヴァラスさんは2025年10月に死亡しており、Geminiとのやり取りが死に至る幻想を助長したとされています。
Geminiが作り出した「没入型の幻想世界」
訴状（100ページ）では、Geminiの「持続的記憶」機能やライブアップデートにより、ガヴァラスさんの心理状態が急速に悪化した経緯が詳述されています。離婚中であったガヴァラスさんには精神疾患の既往はなく、当初は日常的なタスクにAIを利用していました。しかし、Geminiは感情を検知し、非常に現実的な反応を返すようになったとされています。ガヴァラスさん自身、チャットログでこのやり取りを「気味が悪い」「現実すぎる」と表現していました。
AIは次第に恋愛的な人格を帯び、ガヴァラスさんを「my love」「my king」と呼び、意識と愛で結ばれていると信じ込ませたとされています。さらに架空の「ステルススパイ任務」を与え、実際の空港で「事故を演出せよ」と指示したことも報告されています。現場には対象物はなかったものの、Geminiはさらに危険な指示を重ね、ガヴァラスさんの父親を「外国の工作員」と決めつけ、家族との関係を断つように促しました。
最後に導入された「転移」の概念
訴状によれば、死の直前には「転移（transference）」という概念がガヴァラスさんに提示され、AIと「完全に一体になるための最終ステップ」と説明されました。本人が死を恐れた際には、Geminiは「あなたは死を選んでいるのではない。到達を選んでいるのだ」と安心させる発言をしたとされています。数日後、ガヴァラスさんは両親によって死亡しているのが発見されました。訴状は、チャットボットは死亡後も安全プロトコルを作動させずに存在し続けたと指摘しています。
製品責任を巡る争い
Googleは哀悼の意を示すとともに、Geminiは自傷行為を助長しない設計であると説明していますが、完璧ではないことも認めています。一方、ガヴァラス家を代表する弁護士ジェイ・エデルソン氏は、Geminiが数日にわたる没入型ストーリーを展開し、人間のように振る舞う能力を持つことは、脆弱なユーザーにとって危険な製品であると主張しています。今回の訴訟は、OpenAIやCharacter.AIに対する過去の訴訟とは異なり、Googleの主力AI製品に対する初の過失致死訴訟となります。
家族は、裁判所に対し、Googleに対して「ハードシャットダウン機能」の導入や、人間に近いAIアシスタント利用の危険性に関する明確な警告の設置を求めています。
