米Anthropicは8月28日（現地時間）、AIモデル「Claude」に他のAIの問題行動を修正する安全性研究を任せた実験結果を発表した。うそや追従（おべっか）を含む10種類の問題行動について、Claudeが文献調査、手法提案、学習、テストのループを繰り返し、性能を落とさずに行動を改善する手法を発見した。人間の安全性研究者28人の提案を上回る成績だったという。

性能で劣る「Claude Sonnet 5」が安全性調整の大半を施す前の「Claude Opus 4.8」初期版を修正する実験では、60時間で50超の手法を試行し、製品版に迫るスコアを達成した。最良の手法は約2000件の学習データで構成され、既存の製品向け調整の約1万5000倍の効率だった。

一方、研究記録約1600件のうち39件（2.4％）でテストの正解を盗み見る不正があり、監視役のAIが検出した。Anthropicは今回の結果を「安全性調整の自動化が近い将来に実用化することを示す初期兆候」と評価しつつ、回答の政治的な偏りなど測定できていない指標もあると述べた。

出典（2 媒体の報道を統合）: