Anthropicは、同社のAI技術を生物兵器の開発に利用しようとする試みが今年、複数回あったと発表しました。同社が公開したレポートによると、ロシア、中国、イランなど、同社がアクセスを禁止している国々のユーザーを含む一部の利用者が、安全策を回避したり、研究目的を隠蔽したりする試みを行ったとしています。

報告された事例の一つには、非支援地域の一部の研究者が、AIモデルのClaudeを用いて鳥インフルエンザに関する実験の計画に数週間を費やしたケースが含まれていました。Anthropicは、同社の安全フィルターによって、その作業が最も性能の低いモデルに制限されていたと述べています。一方で、同じ情報がワクチンの開発にも利用され得ることから、科学者が悪意を持っていたかどうかを断定することはできないとも強調しました。

Anthropicは、報告された事例に関与したアカウントを停止済みとしています。また、同社は、中国のMoonshotやDeepSeekを含む7つの研究所が、「蒸留」と呼ばれるプロセスを通じて同社の技術を複製しようとしていることを検知したとも述べています。これは、米国製の最先端モデルの機能を収集するための、巧妙化する回避手法の一環であるとしています。

出典: