NVIDIA GH200 Grace Hopperスーパーチップは、MLPerf推論ベンチマークで優れたパフォーマンスを実証し、さまざまなAIアプリケーションにわたるその多用途性を強調している。Hopper GPUとGrace CPUを統合したGH200は、メモリーと帯域幅を向上させ、CPUとGPU間の自動パワーシフトを通じてパフォーマンスを最適化する。8つのH100 GPUを搭載したNVIDIAのHGX H100システムは、全てのMLPerf Inferenceテストで最高のスループットを達成した。この成果は、MLPerfベンチマークが2018年に初めて導入されて以来、一貫して優れたパフォーマンスの記録を維持している、AIトレーニングと推論におけるNVIDIAのリーダーシップを再確認する。NVIDIAの生成AIソフトウェアであるTensorRT-LLMは、大幅なパフォーマンスの強化を提供し、追加コストなしでH100 GPUでの推論パフォーマンスを2倍にする。このソフトウェアは、GPT-Jなどの大規模言語モデル（LLM）に特に有益だ。最新のMLPerfベンチマークでは、NVIDIA L4 GPUがCPUを最大6倍上回り、優れた効率性を示した。さらに、NVIDIA Jetson Orinは、物体検出のパフォーマンスが84%向上したことを示しており、エッジAIやロボティクスにとって理想的な選択肢となっている。MLPerfベンチマークは透過的で、幅広いユースケースをカバーし、信頼性と適応性のあるパフォーマンスを保証する。Microsoft AzureやOracle CloudなどのNVIDIAパートナーからの貢献が、これらの結果に重要な役割を果たした。