AIが人類を滅亡させるという極端なシナリオが相次いで語られるなか、SurfsharkのリードシステムエンジニアであるKarolis Kaciulis氏が、こうした議論に疑問を投げかけています。同氏はTechRadarの取材に対し、AIによる終末論的なリスクばかりが注目される一方で、すでに現実となっている詐欺やプライバシー、環境への影響が見過ごされていると指摘しました。
Kaciulis氏によれば、AI企業はこれまでも「制御不能なAI」という物語を繰り返し発信しており、将来的な人類滅亡という仮想的な問題に世間の関心を向けることで、現在進行形で発生している問題から目をそらす効果があるといいます。
深刻化するAIを悪用した詐欺
同氏が特に問題視しているのが、生成AIを悪用した詐欺やデジタル犯罪です。
AIそのものが人類を支配するようなSF的なシナリオとは異なり、現実には生成AIが悪意のある人物にとって非常に強力な犯罪ツールになっています。文章の作成や画像・音声の生成などを自動化できるため、詐欺や脅迫などに利用されるケースが増えています。
Surfsharkの調査では、ディープフェイクを利用した詐欺による世界の被害額は約21億9000万ドルに達しているとされています。英国だけでも1億4900万ドル規模の被害が発生しているということです。
AIの普及によって、本人そっくりの映像や音声を作り出すことが容易になれば、これまで以上に詐欺を見抜くことが難しくなる可能性があります。こうした問題は、AIが将来どのように進化するかとは関係なく、すでに対策が求められている課題です。
データセンターの電力や水の消費も問題に
生成AIを巡っては、環境負荷も無視できません。
Kaciulis氏は、ChatGPTへの1回の問い合わせで平均約2Whの電力が消費されるというデータを紹介しています。これは40Wの卓上扇風機を約3分間動かすのと同程度です。
1回あたりの消費量だけを見ると大きく感じられないものの、生成AIサービスが世界中で大量に利用されていることを考えると、データセンター全体では膨大な電力が必要になります。さらに、AI向けデータセンターではサーバーを冷却するために大量の水が使われるケースもあります。
AIの性能競争が続くほどデータセンターの規模が拡大する可能性があり、電力や土地、水資源への影響は今後も重要な論点になりそうです。
AIの性能限界とプライバシーにも懸念
Kaciulis氏はさらに、現在の大規模言語モデルが性能面で限界に近づいている可能性についても言及しています。
同氏の見方では、AIがこれまでのような大きな進歩を続けられなくなった場合、企業が将来的な超高性能AIや人類への脅威を強調することで、現在の技術的な限界から関心をそらす可能性があるとしています。ただし、これはKaciulis氏による見解であり、LLMのスケーリングが実際に限界へ到達したことを示す確立した事実ではありません。
一方で、現在のAIサービスにおいて現実的な問題となっているのがプライバシーです。
チャットボットは自然な会話形式でユーザーに質問を返しながら作業を進めるため、利用者が相手を単なる便利なアシスタントのように感じやすくなります。その結果、個人情報だけでなく、仕事上の機密情報やソースコード、メールなどを不用意に入力してしまうリスクがあります。
AIサービスを利用する際には、入力した情報がどのように扱われるのかを確認し、機密性の高い情報を安易に入力しないことが重要になります。
AIが将来、人類にとってどのような存在になるのかは現時点で確定していません。一方で、ディープフェイク詐欺やプライバシー、データセンターの電力・水消費といった問題は、すでに現実のものとなっています。AIの未来を巡る極端なシナリオだけでなく、現在発生している具体的なリスクにも目を向ける必要がありそうです。
