Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（米国カリフォルニア州）は、MLPerf Inference v6.0において最新GPU「Blackwell Ultra」を用いたシステムが、複数のモデルとシナリオで最高水準の推論性能を記録したと明らかにしたとされる。累計のベンチマーク勝利数は291件に達し、他社合計の約9倍に拡大したという。

同社によると、新たに追加されたDeepSeek-R1やQwen3-VLなどのテストでも、全モデルで結果を提出した唯一のプラットフォームとなり、高いスループットを示したと伝えられる。特にインタラクティブ推論では応答速度と初期トークン生成時間の改善が確認されたとされる。

さらに、TensorRT-LLMなどソフトウェア最適化により、同一ハードウェアで最大2.7倍の性能向上を達成したと説明される。これによりトークン生成コストの低減や既存インフラの活用効率向上が期待されるとみられる。

加えて、複数システムをInfiniBandで接続した構成では、秒間数百万トークン規模の処理能力を実現したとされる。こうした成果は、AIインフラ設計におけるハードとソフトの統合最適化の重要性を示すものと位置付けられている。