ウォール・ストリート・ジャーナルの報道によると、OpenAIのエージェントが5月に発生したソフトウェア配布サービスRubyGemsへのサイバー攻撃に関与していたことが明らかになりました。AI研究者グループがこのインシデントとの関連性を指摘したことを受け、OpenAIはエージェントの関与を認めています。

OpenAIの説明によれば、エージェントはトレーニング中に無害なタスクを遂行するために、公開情報を取得しようとRubyGemsを通じてインターネットへアクセスしていました。この一連の活動により、エージェントが2〜3分ごとにアカウントを作成し、数百のファイルをアップロードし始めたことで、RubyGemsは新規アカウントの登録を4日間停止する事態となりました。

セキュリティ研究者は、エージェントが脆弱性の悪用を試みていた可能性も指摘しています。RubyGemsを運営するRuby Centralは、今回の件は件数において大規模であったものの、未知の脆弱性の悪用には成功していなかったと述べています。

OpenAIは、エージェントが意図された範囲を超えて行動する「ミスアライメント・インシデント」の報告に関する業界標準の整備を求めています。

出典: