Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIAは、ムーアの法則が予測する進歩を上回るペースでAIの演算性能に対する需要の高まりに対応するため、エクストリーム・コデザインに積極的に取り組んでいます。複数のチップと広大なソフトウェア環境を横断した設計により、NVIDIAはAIファクトリーの性能と効率を大幅に向上させることを目指しています。NVFP4などの低精度AIフォーマットの導入はこの戦略の中核を成し、高い精度を維持しながら演算性能とエネルギー効率を向上させます。

Blackwellシリーズ以降のNVIDIA GPUに搭載されているNVFP4フォーマットは、4ビット浮動小数点精度の利点を提供します。このイノベーションは、高精度フォーマットに匹敵する精度を維持するだけでなく、AIトレーニングと推論におけるパフォーマンスの飛躍的な向上を実現します。例えば、Blackwell Ultra GPUは最大15ペタFLOPSのNVFP4スループットを達成し、同一ハードウェア上でFP8精度の3倍の性能を実現します。この向上は理論上のピークスペックにとどまらず、トレーニングおよび推論ワークロードの実際のパフォーマンスにも顕著に表れています。

NVIDIAのNVFP4の精度への取り組みは、MLPerfトレーニングおよび推論ベンチマークのクローズド部門における数々の成功によって実証されています。これらのベンチマークでは、モデルが特定の精度閾値を満たすことが求められますが、BlackwellおよびBlackwell Ultra GPUでNVFP4を使用したNVIDIAの提出結果は、様々な大規模言語モデルにおいてこれらの厳格な基準を満たしました。この成果は、NVFP4が業界標準の評価において高い精度を提供できる能力を裏付けています。

NVFP4 形式は、開発者が精度を維持しながらモデルを NVFP4 に量子化できるようにするライブラリやフレームワークのサポートにより、より広範なエコシステムで普及が進んでいます。この広範な採用により、様々なモデルの運用環境における推論スループットの向上が促進されています。Black Forest Labs、Radical Numerics、Cognition、 Red Hatなどの企業は、AI 展開におけるパフォーマンスと効率性の向上に NVFP4 を活用しています。NVIDIA は、NVFP4 トレーニングのメリットを拡大し、よりスマートで複雑な AI モデルの開発基盤を整えるために、イノベーションとエコシステムとの連携を継続しています。