AI開発のAnthropicは2026年9月、自社のAIモデル「Claude」が悪用された事例に関する詳細なレポートを公開しました。レポートは2025年12月から2026年8月までの期間における、サイバー攻撃、影響力工作、監視、詐欺、生物学的悪用、兵器開発、敵対的蒸留の7つの領域での悪用事例をまとめています。

サイバー攻撃の分野では、AIによって攻撃の速度や規模が向上する「アップリフト」が指摘されています。具体例として、ロシア系のスパイ活動とみられるグループが、AI駆動のワークフローを用いて偵察からデータ流出までのプロセスを自動化した事例などが挙げられています。また、AIを利用して脆弱性の調査やエクスプロイト（攻撃コード）の開発を継続的に行う「自動エクスプロイト製造」のような動きも報告されました。

情報工作においては、Claudeを用いて偽のソーシャルメディアプロフィールやニュースサイトを構築し、大規模な情報操作を行う事例が確認されています。これらの中には、国政選挙に合わせて実施されたものや、特定の政治的見解を拡散するためにAIで生成されたコンテンツを大量に配信するものも含まれていました。

監視についても、AIが悪意のあるFirefox拡張機能の構築や、大量のデータからターゲットを特定するための分析に利用された事例が特定されています。Anthropicは、これらの活動によって特定されたアカウントを停止したほか、得られた知見をモデルの安全対策の強化に活用していくとしています。

出典: