NVIDIA memperkenalkan NVbandwidth, sebuah alat berbasis CUDA yang dirancang untuk mengukur kinerja transfer data di seluruh sistem GPU, termasuk bandwidth dan latency antara memori CPU dan GPU.

Alat ini mendukung berbagai pola dan metode transfer, memungkinkan pengembang untuk menganalisis perilaku memori baik di lingkungan single-GPU maupun multi-node dan mengidentifikasi hambatan kinerja.

Dengan meningkatnya permintaan dari beban kerja AI seperti model bahasa yang besar, pergerakan data yang efisien menjadi sangat penting, dan NVbandwidth membantu mengoptimalkan kinerja pelatihan dan inferensi.

Selain itu, alat ini juga diposisikan sebagai alat validasi dan pemecahan masalah, yang memungkinkan para insinyur untuk melakukan benchmark sistem, mendeteksi regresi, dan memastikan kinerja infrastruktur GPU yang optimal.