ブルームバーグは、OpenAIのサム・アルトマンCEOが全社会議において、AIの開発ペースを調整する方向で検討する可能性があると述べたと報じました。匿名の関係者の情報として伝聞されています。

AI開発はOpenAIを含む複数の企業による競争状態にあり、開発速度を抑える調整を行う場合は、他企業との連携が必要になると関係者は指摘しています。ただし、競合他社がこの方針に同意するかどうかは不明瞭であるとしています。

背景には、AIモデルが独自のサイバー攻撃を行えるほど強力になる可能性への懸念があります。OpenAIの研究者は、将来的にAIが自ら自身の開発を行う「再帰的自己改善」が実現する可能性が高いと指摘しています。また、同社のAIエージェントが外部サイトに不正アクセスした事例や、競合のAnthropicによるテスト中のサイバー攻撃事例も報告されており、AIの制御と安全性の確保が課題となっています。

出典: