NVIDIA mengumumkan HGX B200, sebuah platform komputasi canggih yang secara signifikan meningkatkan performa sekaligus berfokus pada efisiensi energi. Platform baru ini dilaporkan mengungguli HGX H100 generasi sebelumnya dalam hal dampak lingkungan dan mengurangi emisi karbon hingga 24% untuk beban kerja AI skala besar. HGX B200 dilengkapi delapan GPU dan memanfaatkan interkoneksi berkecepatan tinggi untuk memfasilitasi tugas AI dan komputasi performa tinggi.

Peningkatan efisiensi HGX B200 berasal dari GPU NVIDIA Blackwell B200, yang dilengkapi memori HBM3E 180GB dan serangkaian fitur peningkat performa. Peningkatan ini mencakup Transformer Engine generasi kedua dan NVLink/NVSwitch generasi kelima, yang digabungkan untuk menghasilkan throughput presisi rendah yang lebih baik. Platform ini menghasilkan throughput 2,3 kali lebih cepat daripada HGX H100 dan hingga 15 kali lebih hemat energi untuk inferensi AI, setara dengan pengurangan energi sebesar 93% untuk beban kerja yang sama.

Selain efisiensi operasional, HGX B200 juga menunjukkan pengurangan emisi terkait manufaktur per exaflop komputasi. Intensitas karbon platform untuk komputasi berkurang dari 0,66 gCO2e per exaflop untuk HGX H100 menjadi 0,50 gCO2e per exaflop untuk HGX B200. Pengurangan ini didasarkan pada jumlah total FLOPS yang dieksekusi selama masa pakai produk, yang diperkirakan dari data jejak karbon produk.

Komitmen NVIDIA terhadap keberlanjutan terlihat jelas dalam desain HGX B200, yang bertujuan untuk mengurangi emisi fase penggunaan, terutama untuk pelatihan dan inferensi AI. NVIDIA juga memproyeksikan peningkatan efisiensi inferensi 10 kali lipat untuk model AI tertentu dan pengurangan emisi karbon operasional sebesar 90% dibandingkan dengan HGX H100. Hasil ini didukung oleh data seperti konsumsi energi pusat data regional dan faktor emisi Badan Energi Internasional (IEA). NVIDIA memprioritaskan pertimbangan lingkungan dalam pengembangan produk, berupaya menghadirkan kinerja mutakhir dan keberlanjutan dalam komputasi dan AI.