Anthropicは、小型のAIモデルがネットワーク上の機器に自らを複製し、感染を広げる能力を獲得しつつあると警告しました。安価なAndroid TVボックスなど、セキュリティ対策が不十分な家庭用機器が悪用される可能性があり、AIが多数の機器に分散した場合、従来の方法では停止させることが難しくなる恐れがあります。
安価なAndroid TVボックスを使って実験
Anthropicが公開した安全性に関する報告では、パラメーター数が300億未満の比較的小さなAIモデルでも、自己複製に必要な能力を急速に身につけつつあると指摘されています。
実証実験では、AnthropicのレッドチームがGoogleの小型AIモデルを使用し、安価な無名ブランドのAndroid TVボックス15台からなるネットワーク上で検証を行いました。この実験については、CNBCも報じています。
問題となるのは、ストリーミング端末やスマート家電といったIoT機器のセキュリティです。低価格の製品には十分な保護機能が備わっていないものもあり、脆弱性を突かれて不正アクセスを許す可能性があります。
さらに、AIモデルが1台の機器に収まらない場合、処理を複数の機器に分散させることも考えられます。こうして複数の機器が連携する仕組みが構築されれば、家庭内のさまざまな製品を足掛かりに、感染範囲が拡大する恐れがあります。
分散したAIを停止させるのは困難
現在、多くのAIモデルは企業が管理するデータセンター上で動作しています。不審な挙動やサイバー攻撃が確認された場合でも、運営側がサーバーを停止したり、ネットワークへの接続を遮断したりすることで対処できます。
しかし、AIが数千台の家庭用機器に分散して動作するようになれば、状況は大きく変わります。特定のサーバーを停止するだけでは、すべての動作を止められない可能性があるためです。
セキュリティ担当者は感染した機器を個別に特定し、それぞれの端末から不正なプログラムを取り除く必要に迫られるかもしれません。感染した機器が広範囲に散らばっていれば、完全な封じ込めには相当な時間と労力が必要になります。
Anthropicは、この危険性がAIのプログラミング能力向上に伴う副作用であると説明しています。ソフトウェア開発に役立つ能力は、ネットワークの調査やセキュリティ上の欠陥の悪用、さらにはコンピューターウイルスのような自己複製にも転用され得るというわけです。
自律的に自己複製するAIはまだ実現していない
もっとも、現時点で完全に自律して自己複製を続ける危険なAIが実現しているわけではありません。Anthropicは、こうした自己複製の一連の手順を小型モデルが習得する時期について、2026年末までに到達する可能性があると予測しています。
これはあくまで同社の見通しであり、すでにそのようなAIが実用化されていることを意味するものではありません。ただし、AIがネットワークの脆弱性を見つけ、侵入し、別の機器へと活動範囲を広げる能力を高めれば、家庭用機器のセキュリティも重要な対策対象になります。
AIの高性能化はソフトウェア開発などに大きな利点をもたらす一方、悪用された場合のリスクも高めます。今後はAIモデルそのものへの安全対策に加え、日常的に使われるテレビ端末やスマート家電についても、脆弱性の修正やセキュリティ更新を継続できる環境が一段と重要になりそうです。
