Microsoft baru-baru ini mengumumkan kemajuan signifikan dalam infrastruktur AI-nya dengan peluncuran klaster produksi skala besar pertamanya yang menampilkan lebih dari 4.600 unit NVIDIA GB300 NVL72. Unit-unit ini didukung oleh GPU NVIDIA Blackwell Ultra dan saling terhubung melalui jaringan NVIDIA InfiniBand terbaru. Peluncuran ini menandai dimulainya upaya yang lebih luas untuk meluncurkan ratusan ribu GPU Blackwell Ultra di pusat data AI Microsoft di seluruh dunia. Klaster baru ini dirancang untuk memungkinkan pengembangan model AI yang lebih besar dan lebih canggih dengan mengurangi waktu pelatihan model dari hitungan bulan menjadi hitungan minggu dan meningkatkan throughput beban kerja inferensi.

Pencapaian ini merupakan hasil upaya kolaboratif yang mencakup berbagai disiplin ilmu, termasuk perangkat keras, sistem, rantai pasokan, dan fasilitas, dengan NVIDIA memainkan peran kunci. Platform Microsoft Azure sebelumnya telah mengintegrasikan mesin virtual ND GB200 v6, yang didukung oleh arsitektur Blackwell NVIDIA, yang telah terbukti penting untuk menangani tugas-tugas AI yang paling menantang. VM ND GB300 v6 terbaru diharapkan melampaui pendahulunya dengan memberikan kinerja yang dioptimalkan untuk model inferensi, sistem AI agen, dan Generative AI multimodal. VM ini merupakan bagian dari sistem skala rak yang membanggakan spesifikasi yang mengesankan, termasuk 72 GPU NVIDIA Blackwell Ultra, bandwidth rak-ke-rak 800 Gbps, dan kinerja Tensor Core FP4 hingga 1.440 petaflops.

Pendekatan Microsoft dalam membangun infrastruktur superkomputer AI adalah dengan menata ulang setiap aspek tumpukan teknologi sebagai sistem terintegrasi. VM ND GB300 v6 mewujudkan pendekatan terintegrasi ini dengan inovasi dalam komputasi, memori, dan jaringan. Di tingkat rak, teknologi seperti NVLink dan NVSwitch mengurangi keterbatasan memori dan bandwidth, memfasilitasi transfer data intra-rak dan memungkinkan sistem AI yang lebih responsif dan skalabel. Untuk memperluas kemampuan ini melampaui satu rak, Azure menggunakan NVIDIA Quantum-X800 InfiniBand untuk secara efisien menskalakan pelatihan model yang sangat besar di puluhan ribu GPU.

Ke depannya, Microsoft akan terus berinvestasi dalam infrastruktur AI, memanfaatkan Azure untuk menghadirkan infrastruktur GB300 NVL72 secara cepat dan berskala besar guna memenuhi permintaan AI mutakhir yang terus meningkat. Seiring dengan perluasan peluncuran global GB300 oleh Azure , pelanggan akan dapat melatih dan menerapkan model-model baru dengan lebih cepat. VM NVIDIA GB300 v6 akan menetapkan tolok ukur baru untuk infrastruktur AI. Microsoft akan memberikan informasi terbaru tentang perkembangan dan tolok ukur kinerja di masa mendatang seiring dengan peluncuran global NVIDIA GB300 NVL72.