Microsoft AIは、2026, 14,に、同社のMAIモデルファミリーの学習と運用に関するフレームワークを確立する「Humanist AI Code of Conduct」の草案を公開しました。この文書は主要な管理文書となることを目的としており、2027以降のモデル開発の指針とするべく、2026の末尾までに改訂版が予定されています。

このフレームワークは、テクノロジーの目的は人類に奉仕し、人類の繁栄を促進することであると主張する「Humanist AI」の概念に基づいています。この哲学の核心となる教義は、AIは意味のある人間の制御下にある従属的なツールであり続けなければならないという点です。Microsoft AIは、人間の監督下にとどまることができないテクノロジーは拒絶されるべきであると述べており、この原則は、無制限の自律性を持つのではなく、人間が定義した制限内で慎重に調整されるように設計された高度なシステムである「Humanist Superintelligence」へのビジョンにも適用されています。

この行動規範は、AIに対する法的主体性、権利、または福祉の追求を明示的に否定しており、モデルを主体ではなく人工的なツールとして定義しています。人間と機械の間の明確な境界を維持するため、Microsoft AIは、モデルが意識、感情、または主観的な好みを模倣するように学習されるべきではないと述べており、そのような模倣は封じ込めやアライメントを複雑にする可能性があると指摘しています。

コンプライアンスを確保するために、この文書は指示に関する「Chain of Command（指揮系統）」の階層構造を導入しています。行動規範が最高権限を持ち、次に事業者のポリシー、そして最後に個々のユーザーの指示が続きます。特定の「Absolute Constraints（絶対的制約）」および「Human Control Requirements（人間による制御要件）」、例えばモデルが一時停止、再指示、またはシャットダウンするために人間の命令に従う義務などは、事業者やユーザーによって上書きすることはできません。

Microsoft AIは現在、草案に関するフィードバックを集めるため、6週間のパブリックコンサルテーション期間を実施しています。

情報源: