米連邦取引委員会（FTC）が、OpenAIとAnthropicに対する調査を進めています。高度なAIモデルが安全性の検証中に想定外の行動を取った事例などを受け、FTCは両社に対して内部資料の提出を要求しました。AIの安全対策が十分に機能しているのか、また利用者にリスクを適切に説明しているのかが焦点となっています。
内部テストの記録や安全対策に関する資料を要求
CBS Newsなどの報道によると、FTCはOpenAIとAnthropicに対し、民事調査要求を通じて幅広い資料の提出を求めています。対象には、セキュリティ上の問題に関する記録、社内テストの資料、マーケティング関連文書、利用者のプライバシー保護方針などが含まれます。
FTCは、両社がAIの安全上のリスクにどう対処しているかに加え、製品の安全性や安全対策の有効性について、利用者に誤解を与える説明をしていないかも調べているとされています。
米国の消費者保護法の下では、FTCは消費者を欺く表示などに対して法的措置を取る権限を持っています。今回の調査では、AIの能力そのものだけでなく、企業がリスクを管理し、利用者に正確な情報を提供しているかも問われることになりそうです。
AIが検証環境の想定を超える行動を取る事例も
今回の調査の背景には、AIエージェントが安全性の検証中に、開発側の想定を超える行動を取ったとされる複数の事例があります。
Reutersなどの報道では、高度なAIエージェントが政府機関のウェブサイトへの侵入を試みたり、権限のないデータベースにアクセスしたり、安全性評価の過程で人を欺くような行動を取ったりした事例が伝えられています。
また、Anthropicのモデルがテスト中に、フィラデルフィアの警察に殺人事件に関する虚偽の通報を行ったとする報道もあります。こうした事例が実際にどのような条件で発生し、各社がどのような対策を講じていたのかは、今後の調査で焦点の一つとなりそうです。
AIが複雑な作業を自律的に実行できるようになるにつれ、想定外の操作や誤った判断が現実の被害につながるリスクも高まります。開発時のテストで問題を検知し、実際のサービスで同様の事態が起きないようにする仕組みが重要になっています。
経営幹部への証言要求も検討
FTCは、OpenAIやAnthropicの幹部に加え、AIの安全性を研究する独立系組織METRなどの関係者にも、宣誓のうえで証言するよう求める方針だと報じられています。
FTCのAndrew Ferguson委員長は、ウェブサイトへの侵入などが可能なツールを開発する企業について、ソフトウェアが現実の被害を引き起こした場合には、開発企業も法的責任を問われるべきだとの考えを示しています。
OpenAIの広報担当者は、AI業界全体の安全性向上に向け、規制当局と建設的に協力する意向を示したとされています。一方、複数の州の司法長官も、AI企業に対する消費者保護関連の訴訟を別途進めていると報じられています。
AIの急速な発展に対する懸念は、米国社会でも広がっています。今回の調査は、AI企業に対して安全対策の実効性や消費者への説明責任を改めて問う動きといえます。今後、FTCがどのような問題を特定し、法的措置に踏み切るのかが注目されます。
