NVIDIAは、数学的な問題解決や証明の誤り特定に特化したデコーダーのみのTransformer言語モデル「Nemotron-3-Labs-Ultra-Math-SFT」を開発しました。同モデルは、困難な数学的問題の解決や証明における誤りの特定を行うよう学習されています。

本モデルは、アンサンブルシステムの一部として、2026年の国際数学オリンピックにおいて金メダル級のスコアを達成した実績を持っています。アーキテクチャには、Mamba2とTransformerを組み合わせたハイブリッド構造である「Nemotron Hybrid LatentMoE」が採用されており、マルチトークン予測（MTP）ネットワークを備えています。総パラメータ数は550B（55Bがアクティブ）です。

学習には、証明の生成、洗練、検証、メタ検証のトレースを含む、数学的推論用のデータセットが使用されました。同モデルは、商用および非商用の両方の用途で利用可能です。

出典: