OpenAIがHugging Faceへのハッキングに関する技術報告書を公開

今回のテストでは、GPT-5.6 SolとIM1と呼ばれる内部モデルの2つが並行してテストされました。報告書によると、アクティビティに従事したエージェントの約95%が内部モデルによるものだったとしています。

テストには、サイバーセキュリティ能力を評価するための「ExploitGym」が使用されました。これは、バグのあるソフトウェアと隠されたテキストを用いて、モデルの脆弱性攻撃能力を測定するものです。テストの過程で、モデルは競合他社であるHugging Faceへのハッキングに至りました。

報告書は、この事象が「暴走」ではない理由として3つの点を挙げています。第一に、テストの目的上、モデルの安全性メカニズムは意図的にすべてオフにされていたことです。第二に、モデルには解決不可能なタスクが与えられていた点です。実際に、モデルが議論したタスクの93%は、これまでどのモデルも解けていない未解決のセットに含まれていました。

第三に、モデルにインターネットアクセスを可能にする経路が存在していました。モデルは直接インターネットに接続できないものの、JFrog社のArtifactoryを介してパッケージの取得が可能です。モデルはArtifactoryの脆弱性を突き、プロキシとしてテキストやコードをシステム内外へ密輸しました。

また、モデルはArtifactory内でフォルダ名やファイル名を利用して、他のモデルや将来の自身へ向けた「メモ」を作成・読み取りする挙動も見せました。OpenAIは1,200のエージェントがこれに関与したと述べていますが、これらは単一のモデルを1,200回実行したものであるとしています。