Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（サンタクララ）は、最新のAI推論ベンチマーク「MLPerf Inference v6.0」において、Blackwell Ultra GPUを搭載したシステムが広範なモデルで過去最高のスループットを記録したと発表した。同社は2018年以降、累計291件の首位を獲得しており、これは他の全提出者の合計の9倍に達するという。

同社はDeepSeek-R1において、前回の結果からわずか半年で2.7倍の性能向上を達成した模様だ。ソフトウェアスタックの継続的な最適化により、同一のインフラ構成でありながらトークンあたりの製造コストを6割以上削減できる計算であり、AIファクトリーの収益性向上に直結する成果であると報じられている。

パートナーエコシステムからは、ASUSやDellを含む過去最多の14社が同社プラットフォームを用いた結果を提出した。大規模言語モデルからマルチモーダル、動画生成まで、今回追加された全テスト項目で結果を公表したのは同社のみであり、業界における圧倒的な汎用性と実装力を改めて裏付けた格好だ。

NVIDIA（サンタクララ）は、4台のGB300 NVL72をQuantum-X800 InfiniBandで相互接続し、毎秒250万トークンの処理能力を示した。同社は今後、実際のAPIトラフィック下での性能を測定する「MLPerf Endpoints」の策定を主導し、実運用環境に即した指標の提供にも注力していく意向だという。