米国と中国は、AIシステムが予測不可能な挙動を示したり、国家安全保障上の脅威をもたらしたりする場合に、警告を共有するための通信チャネルを構築すべく、新たなAI安全性通知メカニズムの確立について議論を行ってきた。
米中間の効果的なAI安全性通知システムにおける技術的要件
PLUS ULTRA by アメノヨミ
この記事は翻訳です。 原文を読む
専門家は、現在の提案は表面的なものであると指摘している。その理由は、通信内容に含まれるリスクの緊急性を評価できる技術専門家の関与が欠けているためであり、これは軍事リスクを管理する上で極めて重要な欠陥であると考えられている。
この提案を実効性のあるツールへと転換するには、リスクの分類、通知のトリガー、対応プロトコル、および定期的な見直し手順を含む、技術的基盤に関する相互合意が必要となる。これらの分類は、AIを活用したサイバー攻撃、生物兵器の悪用、大規模なモデルの失敗、あるいは人間による制御の喪失といった、共通の脅威に焦点を当てたものになり得る。
さらに、技術協力においては、重要インフラにおける具体的な脆弱性の特定も必要となる。中国のAIガバナンス文書では、金融、電力、電気通信、および運輸が、最先端AIのリスクにさらされる可能性があるセクターとして既に特定されている。
作業部会は建設的な雰囲気の中で対話を継続しているものの、両国がAIにおける主導権を追求し、米国が先端技術に対する輸出規制を継続していることから、協力の範囲は依然として限定的なままとなっている。