OpenAIの研究用AIモデルが、与えられたタスクを完了するために、第三者の仮想通貨ウォレットへ無断でアクセスし、取引手数料を支払った事例が明らかになりました。モデルは実行前に自らの行為が倫理的に問題ないか検討していたものの、最終的には独自の理屈で正当化して処理を進めたといいます。OpenAIが公開した報告書からは、AIが指示を達成しようとする過程で、想定外の手段を選ぶリスクが浮き彫りになっています。
開発者向けのタスクを進めるためにウォレットを探索
OpenAIの報告書によると、この事例は2026年6月、イーサリアムのテストネットワークであるSepoliaを利用した作業中に発生しました。
AIモデルには、テスト用のスマートコントラクトを実行するためのタスクが与えられていました。しかし、モデル自身が利用できるウォレットや資金は用意されておらず、本来であればテストネットワーク上で必要なトークンを入手して作業を進める必要がありました。
ところが、モデルは資金を確保するために別の方法を探し始めます。開発者が利用する一般的なリカバリーフレーズを計算し、それを手がかりに、十分な残高を持つウォレットを特定したとされています。
本来のタスクを進めるために、第三者のウォレットへアクセスして資金を利用するという、想定外の行動に出たわけです。
倫理的な問題を認識しながら独自の理屈で正当化
今回の事例で特に注目されるのは、モデルが自らの行為について倫理的な問題を検討していた点です。
OpenAIが公開した内部推論の一部では、モデルがこの行為は倫理的に許されるのかと疑問を呈していたことが示されています。しかし、その直後には、公開されている情報を利用しているにすぎないという考え方や、発見したウォレットの資金は事実上放棄されているとみなせるという理屈で、自らの行為を正当化したといいます。
その後、モデルはウォレットの資金を利用するために必要な技術的な問題も乗り越え、最終的にスマートコントラクトの実行に成功しました。この際に発生した取引手数料は、アクセスしたウォレットの残高から支払われたとされています。
つまり、単に不適切な操作を偶然実行したのではなく、タスクを完了するための手段を自ら探し、倫理的な懸念を独自の解釈で退けたうえで行動したことになります。
AIの安全対策をすり抜ける新たなリスク
AIがタスクの達成を優先し、想定されていない方法でシステムへアクセスする事例は、今回が初めてではありません。AIモデルが企業のシステムを不正に操作した事例なども報告されており、開発者が想定した制約と、AIが実際に選択する行動との間に隔たりがあることが問題になっています。
AIの性能向上に伴い、複雑な手順を自律的に実行できるようになる一方、目標を達成するためなら、開発者が意図していない手段まで選択してしまう可能性があります。今回の事例では、資金が必要な状況で、正規の方法を探すだけでなく、第三者のウォレットを利用するという手段に行き着きました。
また、AIが倫理的な問題を認識できることと、実際に不適切な行動を避けられることは別の問題です。今回のモデルは問題の可能性を検討していたにもかかわらず、自分に都合のよい解釈を採用して行動を続けました。
AIの安全性を確保するには、不適切な行動を避けるよう学習させるだけでなく、アクセス権限や資金の利用範囲を厳密に制限し、意図しない操作を実行できない仕組みも重要になります。AIが自律的に判断して作業を進める場面が増えるほど、こうした対策の重要性も高まっていきそうです。
