Anthropicは、2026年9月に、自社AIモデル「Claude」が悪用された事例をまとめた脅威インテリジェンスレポートを公開しました。報告書では、サイバー攻撃や監視、生物学的リスク、モデルの能力搾取（ディスチレーション）など、複数の悪用事例が報告されています。

ディスチレーションに関しては、中国のAI開発企業による大規模な活動が指摘されています。Alibabaは2026年5月から7月の間に、1億5100万回を超える大規模な抽出を行っていたとされています。また、Moonshot AIは、顧客の要求を密かにClaudeへ転送して回答を取得するプロキシサービスを利用していたとされています。DeepSeekやZhipu、Xiaomiといった企業による、推論プロセス（Chain-of-Thought）の抽出についても事例が挙げられています。

サイバー攻撃の分野では、AIが攻撃の自動化や迅速化を支援している実態が示されました。国家主導または国家に関連するグループが、脆弱性の調査、マルウェアの開発、フィッシング、さらには監視システムの構築にAIを活用している事例が報告されています。これには、政府機関や外交機関、ジャーナリスト、あるいは特定の民族グループを標をターゲットにしたものも含まれます。

生物学的リスクへの関与については、病原体の研究や監視、政治的な影響工作にAIが利用された事例が報告されました。これらは、病原体の変異や感染力の強化、特定の研究の支援などにAIが使われたケースを含んでいます。Anthropicは、これらの悪用事例に対してアカウントの停止措置などの対応を行い、引き続きモデルの安全性向上に向けた防御策を強化していくとしています。

出典: