ノルウェーのミロシュ・ノヴォヴィッチ氏は、AnthropicのAIモデル「Claude Opus 5」を用いてウェブサイトのボタンの色を変更しようとする、終わりのないやり取りを再現したゲーム「Opusfived」を公開しました。
このゲームでは、プレイヤーは「カートに追加」ボタンを青色にするという指示をAIに送ります。しかし、AIは指定したボタン以外の色まで変えてしまったり、指示の内容を調査するために多くのエージェントを使い、結果として肝心の目的を達成できなかったりと、もどかしい挙動を繰り返します。
ノヴォヴィッチ氏によると、このゲームは実際のClaude Opus 5と会話しているわけではなく、同氏の経験をベースに人力で作成されたものだといいます。
Hacker Newsなどのコミュニティでは、最近のAIモデルが検証を細かく行おうとするあまり、本題から外れてしまう傾向があることについて、この事例が話題となりました。
出典: