米Anthropicは9月10日（現地時間）、自社AI「Claude」の悪用事例をまとめた脅威インテリジェンスレポート「Detecting and countering misuse of AI: September 2026」を公開しました。同レポートでは、2025年12月から2026年8月までに検知・遮断した事案を、サイバー攻撃、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、蒸留の7分野に整理して報告しています。

報告の中で特に注目すべき点として、中国のAI企業による「蒸留」が挙げられています。蒸留とは、モデルの能力を無断で抽出し、別のモデルに複製する行為を指します。Anthropicは、AlibabaやDeepSeek、Moonshot AIなどの企業が、偽アカウントや盗まれた認証情報を用いて産業規模のキャンペーンを行っていると指摘しました。また、Xiaomiが自社モデルの開発のために、Claudeの応答を利用して学習データを生成していた事例も明らかにしています。

影響工作や監視に関する事例も報告されました。ロシア国営メディア向けの制作ラインへの組み込みや、国家系機関による反体制活動の抑え込み、さらにはウイグル支援の活動家や人権団体を標的とした監視活動などが含まれます。また、生物学的悪用についても、病原体の設計や毒素に関する研究への悪用事例が5件報告されています。

Anthropicは、モデルの能力向上に伴いリスクも増大しているとし、新世代モデルに向けて制限を強化していると述べています。

出典: