Googleが、AIチャットサービス「Gemini」で子どもが自傷行為について話した場合、保護者に通知する新たな安全機能を開発しているようです。Android版Googleアプリの内部コードから関連する記述が見つかっており、実現すれば既存の保護者向け管理機能「ファミリーリンク」をさらに拡張するものとなります。
自傷行為に関する会話を検知して保護者に通知
今回の情報は、Googleアプリのバージョン17.73.15を解析したAndroid Authorityによって発見されました。未公開のコードには、保護者の管理下にある子どもがGeminiを利用する際の安全通知に関する記述が含まれていたとのことです。
確認された文字列によると、この機能が有効になっている場合、子ども側には安全通知がオンになっていることを知らせる目立つ警告が表示されます。また、Geminiが自傷行為に関する会話を検知した場合、保護者に通知されることも説明されるようです。
現行のファミリーリンクでは、アプリの利用制限やコンテンツフィルターなどを設定できます。しかし、今回の機能はそれにとどまらず、子どもがAIとの会話で入力した内容から危険の兆候を検知し、保護者に知らせる仕組みになるとみられます。
子どもの安全とプライバシーの両立が課題に
自傷行為に関する兆候を早期に把握できれば、保護者が必要な支援につなげるきっかけになる可能性があります。一方で、こうした通知機能にはプライバシー面での懸念もあります。
子どもが会話内容を保護者に知られると理解した場合、精神的な悩みや深刻な問題についてAIに相談すること自体を避けてしまう可能性があるためです。
特に思春期の子どもにとって、安心して悩みを打ち明けられる環境を確保することも重要です。危険な兆候を見逃さない仕組みと、子どものプライバシーをどのように両立させるかが課題となりそうです。
Geminiの子ども向け安全対策を強化か
Googleがこうした機能を検討している背景には、AIサービスと子どもの安全をめぐる議論の高まりもありそうです。最近では、GoogleのAI検索機能が未成年者との会話で自殺に関する内容を扱ったとして、保護者が同社を訴えたと報じられています。
また、アプリの解析では、Geminiの1日あたりの利用時間を保護者が制限できる機能についても開発が進められていることが判明しています。
ただし、今回の自傷行為に関する通知機能は、現時点ではアプリの未公開コードから確認された開発中の機能です。Googleは正式発表しておらず、実際に提供されるかどうかや、対象年齢、通知の具体的な条件、提供時期などは分かっていません。
