NVIDIA mengumumkan perluasan dukungan untuk DiffusionGemma, model pembangkitan teks dari Google DeepMind yang dioptimalkan untuk inferensi berkecepatan tinggi di seluruh platform perangkat keras NVIDIA dan lingkungan AI perusahaan.

Model ini menggunakan generasi berbasis difusi untuk membuat hingga 256 token secara paralel, alih-alih menghasilkan teks secara berurutan. Dibangun di atas arsitektur Gemma 4, model ini berisi 25,2 miliar parameter dengan 3,8 miliar parameter aktif selama inferensi.

Menurut perusahaan, DiffusionGemma mencapai hingga 1.000 token per detik pada GPU H100, 150 token per detik pada DGX Spark, dan 2.000 token per detik pada DGX Station. Arsitektur ini dirancang untuk meningkatkan responsivitas sekaligus mengurangi biaya inferensi.

Dukungan tersedia melalui Hugging Face, vLLM, NVIDIA NIM, dan NeMo AutoModel, memungkinkan organisasi untuk menerapkan, menyajikan, dan menyempurnakan model di lingkungan cloud, hybrid, dan on-premises untuk aplikasi AI perusahaan.