米国の国家安全保障局（NSA）、サイバーセキュリティ・インフラストラクチャ・セキュリティ庁（CISA）、および連邦捜査局（FBI）は、中国を拠点とするAI企業が、アメリカの最先端AIモデルから知識を抽出する「蒸留」を大規模に実施しているとして共同の警告を出しました。

米当局によれば、DeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.aiといった中国企業が、少なくとも2024年後半から、Claude、GPT、Gemini、Grokなどの派生モデルに対して、数百万回に及ぶリクエストを通じて数十億トークンの抽出を行っている可能性があるとしています。これらの活動は、各社の利用規約に反し、アメリカの技術的優位性を損なうものであると指摘しています。

また、中国企業は「トランスファーステーション」と呼ばれるプロキシのグレーマーケットを利用し、地域制限を回避しながらAPIにアクセスしている実態も明らかになりました。さらに、モデルの思考の連鎖（CoT）を抽出するためのプロンプトインジェクションなどの攻撃手法が用いられている形跡も確認されています。

これを受け、米当局はアメリカのAI企業に対し、異常な利用パターンの監視や、蒸留の試みに対して回答内容を微妙に変更して利益を低減させる対策などの実施を推奨しています。

出典: