世界チャンプに勝った囲碁AI、欠陥が判明しアマチュアに負ける。AI「学習していない戦法を使われたので自分の不利に気付かなかった」

アマチュアプレイヤーのペリン氏は、これまで知られていなかった囲碁AIの欠陥を利用して、AlphaGoに匹敵するレベルの囲碁AIに15ゲーム中14ゲームで勝利しました。対局はコンピュータの直接的なサポートなしで行われたとのこと。AIの欠陥を発見した研究会社の最高責任者を務めるグリーヴ氏は「この勝利によって、OpenAIのChatGPTなど現在広く使われているほとんどのAIシステムに共通する弱点が浮き彫りになっています」とコメントしています。

ペリン氏が実際に用いた戦術は、「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」というもの。囲いがほぼ完成していても、囲碁AIは現在の不利に気づくことはないとのこと。ペリン氏は「人間なら注意をそらす作戦にダマされずに、不利な状況であると簡単に見破れるはずです」とコメントしています。

グリーヴ氏によると、囲碁AIが大敗した正確な原因は「ペリン氏が利用した戦術は実際にほとんど使われていないため、AIシステムが十分に訓練を受けていなかった」という点にあるとのこと。グリーヴ氏は「今回使われたような、AIが相手ということを利用した攻撃にさらされたときにAIシステムに欠陥が見つかるのは、AI研究ではよくあることです。にもかかわらず、非常に大きなAIシステムがほとんど検証されないまま大規模に展開されているのを、私たちは目の当たりにしているのです」と述べています。

カリフォルニア大学バークレー校の教授であるラッセル氏は「最先端の囲碁AIの一つで脆弱性が発見されたことは、現在の最先端にいるAIを支える深層学習システムの根本的な欠陥を示唆しています。システムは、過去に経験した特定の状況しか理解できず、人間が容易に理解できるような方法で経験および現在の状況を一般化することができません」と述べ、「私たちは、機械に超人的なレベルの知能を持たせることを、あまりにも急ぎすぎたのかもしれません。今回の囲碁AIに対する勝利は、それを改めて示しています」と付け加えました。
https://gigazine.net/news/20230220-go-human-victory/