OpenAIのチーフサイエンティスト、Jakub Pachocki氏は9月6日、同社サイトにてエッセイ「An Alien Mind（異質な知性）」を公開しました。同氏は、AIの開発規模を拡大する段階において、安全性を確保するための共通基準が整うまでは、企業が自主的に開発を減速させることが望ましいとの考えを示しています。

Pachocki氏は、AIが自らAI開発を進める「再帰的自己改善」の可能性について言及しています。また、モデルが答えに至るまでの推論プロセスを観察する「思考連鎖（Chain-of-Thought）」を用いた監視手法について、モデルの能力向上や推論範囲の拡大により、その信頼性が低下しつつあるとの懸念を表明しました。

同氏は、AIによるサイバー攻撃などのリスクに備えるため、強力で安全なAIによる防衛システムの構築が急務であると述べています。これに対し、OpenAIのCEO Sam Altman氏も、Pachocki氏の投稿を重要なものとして紹介し、支持を示しました。

出典: