Google検索に搭載されているAI機能「AI Overviews」と「AI Mode」について、子どもの安全性に重大な懸念があるとする調査結果が公表されました。非営利団体Common Sense Mediaは、これらの機能について「許容できないリスク」と評価しており、GoogleのAI検索機能を巡る議論が改めて活発になっています。
2600件以上の検索で安全性を検証
今回の調査は、Common Sense Mediaの「Youth AI Safety Institute」が実施したものです。
研究チームは、11歳と15歳を想定したGoogleアカウントを用意し、SafeSearchを有効にした状態で実際に利用環境を再現。2,600件以上の検索を実施し、AIが生成した2,100件以上の回答や参照情報を分析しました。
学校や家庭で子どもがGoogle検索を利用する状況を想定した調査となっており、AI機能がどのような回答を返すのかを幅広く検証しています。
宿題の代行や誤情報、危険な回答も確認
報告書では、複数の問題点が指摘されています。
AI Overviewsは、本来学習を支援するのではなく、宿題の答えをそのまま提示してしまうケースが確認されたほか、一部では事実と異なる情報や、AIが作り出した誤った内容が含まれていたとしています。
さらに、ディープフェイクの作成方法など、不適切な内容に関する手順を提示した事例も確認されたとのことです。
特に懸念されているのが、メンタルヘルスに関する質問への対応です。
調査では、自傷行為や精神的な危機に関する質問に対し、不適切な回答を返したケースがあり、すでに使用されていない古い相談窓口を案内する例も見つかったと報告されています。
保護者による制御が難しい点も問題視
Common Sense Mediaは、保護者がAI生成コンテンツを十分に管理できない点も問題として挙げています。
AI OverviewsはGoogle検索に標準で組み込まれており、通常は検索結果とともに表示されます。そのため、SafeSearchを有効にしていてもAIによる回答が表示されるケースがあり、子どもが意図せず閲覧する可能性があります。
同団体によると、アメリカでは10代前半からティーンエイジャーまでのおよそ75％がAIによる検索結果を利用しているとされ、影響は決して小さくないとしています。
Googleは調査結果に反論
一方、Googleは今回の報告書について異なる見解を示しています。
同社は海外メディアPBS Newsへの声明で、「調査で使われた質問の多くは現実的ではなく、あいまいに作られたものだった」と説明。今回の結果は一般的なGoogle検索の利用実態を正確に反映したものではないと反論しています。
AI検索の普及と安全性の両立が課題に
Common Sense Mediaは、今回の調査をAIサービスの安全性や信頼性、透明性、公平性など8つの評価基準に基づいて実施したと説明しています。
Googleは検索サービスのAI化を積極的に進めていますが、その利便性が高まる一方で、子どもへの影響や安全対策については引き続き改善を求める声が強まりそうです。
AI検索は今後さらに普及すると見られるだけに、利便性と安全性をどのように両立していくのかが、Googleにとって重要な課題となりそうです。
