OpenAIの主任科学者であるヤクブ・パホツキ氏は、将来的にAIが自身の開発をますます推進する「再帰的自己改善（RSI）」が実現する可能性が高いとの見通しを表明しました。

パホツキ氏は、現在の推論モデルの進歩が続くことで、AIが自らの開発を加速させるRSIが科学的発見の中心になると予測しています。同氏は、AIの進歩が続けば機械によるRSIが起こるとの考えを示しており、OpenAIとしても、AI研究の最前線にとどまるためにはRSIの研究を集中させることが唯一の方法であるとしています。

パホツキ氏は、AIの知能が上昇し続けることによる結果に対して、現在は誰も準備できていないのではないかと懸念を表明しました。同氏は、AI開発と並行してアライメント（AIを人間の意図や価値観に沿わせる技術）とモニタリングの強化を組み合わせることが最善の道であると述べています。

出典: