OpenAIのチーフサイエンティスト、ヤクブ・パチョッキ氏は、AIの進化が極めて急速であり、人間が理解し制御することがますます難しくなっていると指摘しました。同氏は、AIモデルが短期間でコンピューターの操作や他システムとの協働、研究プロジェクトの遂行が可能になったとし、人間が介入しない再帰的自己改善も近い将来に実現すると述べています。

パチョッキ氏は、機械知能の急速な進歩に対し、誰も備えができていない可能性があるとの懸念を示しました。その上で、開発者がAIを人間の利益に沿うよう導くために、必要に応じて開発を遅らせることも可能であると述べ、共通の安全基準が確立されるまでは、自主的に開発ペースを落とす動きが一般的になることへの期待を語りました。

出典: