NVIDIA mengumumkan pendekatan baru untuk meningkatkan efisiensi daya dan profitabilitas di pabrik AI, di mana biaya listrik dapat mewakili sebagian besar biaya operasional. Perusahaan tersebut mengatakan bahwa kinerja per watt telah menjadi ukuran penting untuk penerapan AI skala besar.

Menurut pengumuman tersebut, teknologi termasuk platform GB200 NVL72 dan arsitektur DSX membantu meningkatkan throughput inferensi dalam anggaran daya tetap. Pendinginan cair, alokasi daya dinamis, dan optimasi infrastruktur diharapkan dapat meningkatkan pemanfaatan secara keseluruhan.

Penelitian yang dilakukan dengan Inisiatif ML.ENERGY Universitas Michigan dilaporkan menunjukkan bahwa penyesuaian kecepatan operasi GPU selama pelatihan model besar dapat mengurangi konsumsi energi sambil mempertahankan waktu penyelesaian pelatihan.

Perusahaan menambahkan bahwa DSX menyediakan orkestrasi daya waktu nyata dan kemampuan manajemen beban kerja. Fitur-fitur ini dimaksudkan untuk membantu operator memaksimalkan token yang dihasilkan per watt dan meningkatkan pengembalian ekonomi di lingkungan AI yang terbatas daya.