GPU NVIDIA semakin banyak digunakan untuk mengoptimalkan beban kerja AI penglihatan, tetapi peningkatan throughput komputasi menyulitkan alur data tradisional untuk mengimbanginya. Ketidaksesuaian ini dapat menyebabkan GPU starvation, di mana akselerator menunggu data. Untuk mengatasi hal ini, diperlukan alur data yang lebih cerdas yang dapat mengimbangi kecepatan perangkat keras berkinerja tinggi.

NVIDIA bertujuan untuk meningkatkan efisiensi aplikasi AI penglihatan dengan memperkenalkan implementasi SMPTE VC-6 yang dipercepat CUDA, sebuah codec yang dirancang untuk komputasi paralel. Fitur-fitur VC-6, seperti multi-resolusi hierarkis dan dekode selektif, selaras dengan karakteristik pemrosesan paralel GPU. Hal ini memungkinkan jalur yang lebih langsung dari data terkompresi ke tensor siap model, sehingga meningkatkan kinerja dibandingkan implementasi CPU dan OpenCL.

SMPT VC-6 adalah standar pengodean video yang mengodekan gambar dalam hierarki multi-resolusi, memungkinkan interaksi yang efisien dengan GPU. Struktur ini memungkinkan transfer dan dekode data selektif, sehingga mengurangi penggunaan I/O, bandwidth, dan memori. VC-6 memaksimalkan throughput dengan hanya mengambil dan mendekode data yang dibutuhkan, sehingga sangat cocok untuk pipeline AI yang mengutamakan efisiensi.

NVIDIA dan V-Nova telah berkolaborasi untuk mengoptimalkan VC-6 untuk CUDA, standar dalam ekosistem AI. Implementasi CUDA pada VC-6 menawarkan berbagai manfaat, termasuk overhead yang minimal, interoperabilitas yang lebih baik dengan ekosistem CUDA Tensor, dan akses ke alat profiling canggih. Versi alfa dari jalur CUDA VC-6 telah menunjukkan peningkatan performa yang signifikan, dan optimasi lebih lanjut diharapkan dapat meningkatkan efisiensi lebih lanjut.