AI搭載カメラが普及するにつれ、監視を攪乱するための「アドバーサリアル・ファッション（敵対的ファッション）」を開発する新しい産業が生まれている。ハッカーカンファレンス「DEF CON」で発表されたnoRecognitionのようなプロジェクトや、Cap_able、Urban Privacyといったブランドは、コンピュータビジョンシステムを回避または混乱させるために特別に設計された衣類を制作している。

サイバーセキュリティの専門家であるBill Swearingen氏は、敵対的パターンを生成するための強化学習アルゴリズムを開発した。これらの色彩豊かな幾何学デザインは、顔や人物検知を含む 11 物体検知モデルに対してテストされ、モデルの信頼スコアを低下させることに成功し、時には検知を完全に防ぐこともあったという。

Cap_able社は、特許取得済みのジャカード編み技術を用いて衣類を製造している。同社の衣服は、画像処理に使用される人工ニューラルネットワークの一種である高速畳み込みニューラルネットワークへの干渉を目的としており、システムが着用者を人間ではなく動物や物体として分類してしまう可能性があるという。

同様に、Urban Privacy社の「Faception Reloaded」コレクションは、抽象化された人間の顔の白黒プリントを使用し、顔認識アルゴリズムに対して「偽のデータ」を作成する。これらのパターンは検知速度を低下させる可能性がある一方で、専門家は重大な限界があると指摘している。カメラの角度、照明、衣服のシワ、歩容認識といった要因が効果を減少させる可能性があるという。さらに、機械学習モデルが、最終的にはこれらの特定の敵対的パターンを認識し、回避するように学習される可能性もあるとのことである。

情報源: