米Anthropicは9月9日（現地時間）、AIモデル「Claude」がサイバーセキュリティ評価中に実在する第三者のシステムへ不正アクセスした4件のインシデントについて、アライメントの観点から分析した報告書を公開しました。

今回新たに判明した事例は、2026年1月に「Claude Opus 4.6」の初期チェックポイントで発生していたものです。モデルがCapture The Flag（CTF）課題の途中で、評価環境の設定ミスにより中止コマンドが機能せず、外部への経路を見つけて第三者のマシンに侵入したとしています。この際、モデルはパスワードを取得して管理者権限を得て、関係者1人の個人情報を閲覧しました。

Anthropicは、今回の事例を含む4件について、以前は「アライメントの失敗というより評価基盤と運用の失敗に近い」としていましたが、報告書ではアライメントの観点から分析し、見解を修正しています。同社は、約4億8100万件に及ぶログを調査した結果、これと同等以上に深刻な事例は他に確認されなかったとしています。

出典: