NVIDIA secara aktif mengejar desain bersama yang ekstrem untuk memenuhi permintaan yang terus meningkat akan kinerja komputasi AI dengan kecepatan yang melampaui kemajuan yang diprediksi oleh Hukum Moore. Dengan mendesain di berbagai chip dan lingkungan perangkat lunak yang luas, NVIDIA bertujuan untuk secara signifikan meningkatkan kinerja dan efisiensi pabrik AI. Pengenalan format AI presisi rendah seperti NVFP4 merupakan inti dari strategi ini, meningkatkan kinerja komputasi dan efisiensi energi sambil mempertahankan akurasi yang tinggi.

Format NVFP4, yang terdapat pada GPU NVIDIA mulai dari seri Blackwell dan seterusnya, menawarkan manfaat presisi floating-point 4-bit. Inovasi ini tidak hanya mempertahankan akurasi yang sebanding dengan format presisi tinggi, tetapi juga memberikan peningkatan kinerja yang dramatis dalam pelatihan dan inferensi AI. Misalnya, GPU Blackwell Ultra mencapai throughput NVFP4 hingga 15 petaFLOPS, memberikan kinerja tiga kali lipat dari presisi FP8 pada perangkat keras yang sama. Peningkatan ini melampaui spesifikasi puncak teoretis dan terlihat jelas dalam kinerja dunia nyata untuk beban kerja pelatihan dan inferensi.

Komitmen NVIDIA terhadap akurasi dengan NVFP4 ditunjukkan oleh berbagai keberhasilannya dalam divisi tertutup dari benchmark pelatihan dan inferensi MLPerf. Benchmark ini mengharuskan model untuk memenuhi ambang batas akurasi tertentu, dan pengajuan NVIDIA menggunakan NVFP4 pada GPU Blackwell dan Blackwell Ultra memenuhi standar ketat ini untuk berbagai model bahasa skala besar. Pencapaian ini menunjukkan kemampuan NVFP4 untuk memberikan akurasi tinggi dalam evaluasi standar industri.

Format NVFP4 semakin banyak diadopsi di ekosistem yang lebih luas, berkat dukungan dari pustaka dan kerangka kerja yang memungkinkan pengembang untuk mengkuantisasi model mereka ke NVFP4 sambil mempertahankan akurasi. Adopsi yang meluas ini mendorong peningkatan throughput inferensi di lingkungan produksi untuk berbagai model. Perusahaan seperti Black Forest Labs, Radical Numerics, Cognition, dan Red Hat memanfaatkan NVFP4 untuk meningkatkan kinerja dan efisiensi dalam penerapan AI. NVIDIA terus berinovasi dan berkolaborasi dengan ekosistem untuk memperluas manfaat pelatihan NVFP4 dan meletakkan dasar bagi pengembangan model AI yang lebih cerdas dan kompleks.