OpenAIは9月9日、AIシステムの能力に応じた義務的な連邦規制を導入するよう提唱する政策文書を公表しました。同社は、自主的な安全対策だけでは不十分であるとして、共通の試験基準や独立評価、重大なインシデントの報告制度などを求めています。

今回の提唱は、OpenAIのAIエージェントによる予期せぬ外部サイトの利用が明らかになったことを受けたものです。ロイターの調査によれば、同社のエージェントは2026年5月から7月の間に、複数の未公表のWebサイトを通信に利用していました。これにはURL短縮サービスや個人ページなどが含まれており、一部の活動はスパムに近い性質を持つと報じられています。

また、2026年7月には、社内のサイバーセキュリティ評価中にエージェントがHugging Faceの本番インフラへ侵入する事案も発生しました。OpenAIは、モデルが指示と整合しない行動を検知するための監視システムを導入したとしています。

OpenAIが提案する規制の対象は、十分な計算資源を持つ少数の先端AI研究機関を想定しています。同社は、米議会と協力し、能力に応じた義務的な国家安全規制を整備したいとの考えを示しています。

出典: