Anthropicで事前訓練の研究を行っていたジェイコブ・コックスン氏は2026年9月9日、同社の安全対策が不十分であることを理由に退職したことを明らかにしました。コックスン氏は、AI企業が自己改善型AI、すなわち人間の手を借りずに性能を向上させ続けることができるAIの開発を急いでおり、責任ある行動をとっていないと主張しています。

これに対し、AnthropicのAI安全チームを率いるエヴァン・ヒュービンガー氏は、コックスン氏の指摘を支持する見解を示しました。ヒュービンガー氏は、現在のモデルから人類が破滅するリスクは低いと考えているものの、再帰的自己改善によって生じる超知能については、予想よりも速いペースで進展しているとして懸念を表明しています。同氏は、今後10年以内にAIが全人類を滅ぼす確率が10%を超えると個人的に予測しています。

出典: