NVIDIA melaporkan bahwa sistem yang didukung oleh GPU Blackwell Ultra mencapai kinerja inferensi terbaik di berbagai benchmark dalam MLPerf Inference v6.0, yang mencerminkan throughput yang kuat di berbagai beban kerja AI.

Perusahaan tersebut menyatakan bahwa mereka adalah satu-satunya platform yang mengirimkan hasil di semua model yang baru diperkenalkan, termasuk DeepSeek-R1 dan Qwen3-VL, sambil memberikan kinerja terdepan di setiap skenario.

Juga dicatat bahwa optimasi perangkat lunak, khususnya melalui TensorRT-LLM, meningkatkan kecepatan inferensi hingga 2,7 kali lipat pada perangkat keras yang sama, mengurangi biaya pembuatan token secara signifikan.

Selain itu, konfigurasi skala besar yang terhubung dengan InfiniBand dilaporkan memungkinkan pemrosesan jutaan token per detik, menyoroti dampak desain perangkat keras dan perangkat lunak terintegrasi pada efisiensi infrastruktur AI.