生成AIは高度な文章生成やプログラミング支援をこなし、まるで人間のように「考えている」かのような印象を与えます。しかし、最新の研究によって、その裏側には意外な弱点が存在することが明らかになりました。
名門大学の研究で見えたAIの限界
今回の研究は、スタンフォード大学、カリフォルニア工科大学、そしてカールトン大学の研究者らによって実施されました。
対象となったのは、大規模言語モデルと呼ばれる最先端のAIです。たとえばGeminiやChatGPT、Claudeといったモデルは、難解なコードの修正や詩の作成まで瞬時にこなします。
しかし研究によれば、こうした高度なAIであっても、子どもでも解けるような基本的な論理問題で誤答するケースが少なくないといいます。
パターン認識は得意、論理理解は別問題
AIは膨大なデータからパターンを学習し、次に来る単語を高精度で予測する仕組みです。見た目には思考しているように見えますが、実際には確率計算に基づいて文章を生成しています。
そのため、「A＝BならばB＝Aである」といった一見自明な論理関係を正しく扱えないことがあると指摘されています。また、リストの最初の項目を過度に重視するなど、人間にも似たバイアスが見られる一方で、「何かおかしい」と気づく直感的な補正能力は備えていません。
研究者らは、現在のAIには人間の脳が持つ「実行機能」に相当する能力が欠けていると分析しています。これは状況を俯瞰し、計画を立て、柔軟に修正するための重要な機能です。
社会的推論や倫理判断にも課題
もうひとつの大きな課題は社会的知性です。人間は長年の経験を通じて他者の感情や意図を推測する力、いわゆる「心の理論」を身につけます。
一方、AIにはこうした能力がありません。そのため、倫理的配慮が求められる状況や、人間らしい判断が必要な意思決定には依然として不向きだと研究者らは述べています。道徳的な指針を内在的に理解しているわけではないためです。
空間認識や物理的推論でも不安定
さらに、三次元空間での作業計画やロボットの動作管理といった物理的推論でも問題が見られました。問いかけの表現をわずかに変えただけで、計画の整合性を保てなくなることがあるといいます。
これは、AIが長期的な世界理解に基づいて推論しているのではなく、短期的なデータパターンに依存していることを示唆しています。
弱点の把握こそ進化の第一歩
もっとも、研究者らはAIが失敗だと結論づけているわけではありません。むしろ、どこでつまずくのかを正確に把握することが、次世代のより堅牢なAIシステム開発につながるとしています。
黎明期のコンピュータも、徹底したエラー分析を経て信頼性を高めてきました。同様に、現在のAIも厳密な検証を重ねることで、単なる高性能な自動補完ツールから、真に知的なパートナーへと進化していく可能性があります。
重要なのは、過度な期待や過小評価に走ることではなく、技術の現状を正確に理解することです。私たちが現実世界の道具に対して性能や限界を見極めて使い分けるように、デジタルなパートナーであるAIについても、その能力と限界を冷静に見極める姿勢が求められています。
