NVIDIA mengumumkan penyempurnaan pada platform jaringan Spectrum-X, memperluas kemampuannya ke dalam jaringan penyimpanan data yang sangat penting bagi kinerja aplikasi AI. Teknologi perutean adaptif Spectrum-X dirancang untuk mengurangi tabrakan aliran dan meningkatkan lebar pita, mengungguli protokol jaringan Ethernet RoCE v2 yang umum digunakan. Peningkatan kinerja penyimpanan ini diharapkan dapat meningkatkan lebar pita baca dan tulis secara signifikan, mempercepat alur kerja AI, terutama selama fase pelatihan dan inferensi.

Untuk mengatasi meningkatnya kompleksitas beban kerja AI, NVIDIA telah bermitra dengan penyedia solusi penyimpanan seperti DDN, VAST Data, dan WEKA. Kolaborasi ini ditujukan untuk mengoptimalkan layanan mereka untuk platform Spectrum-X dan meningkatkan kemampuan jaringan penyimpanan AI. Superkomputer AI generatif milik NVIDIA sendiri, Israel-1, berfungsi sebagai tempat uji coba bagi Spectrum-X untuk menunjukkan dampaknya pada beban kerja penyimpanan dalam kondisi dunia nyata. Uji komparatif menggunakan klien server GPU NVIDIA HGX H100 menunjukkan bahwa Spectrum-X secara konsisten memberikan kinerja yang unggul, meningkatkan bandwidth baca dan tulis masing-masing sebesar 20% hingga 48% dan 9% hingga 41%.

Pentingnya kinerja jaringan penyimpanan dalam AI terbukti dari kebutuhan untuk menangani aliran data besar secara efisien, seperti yang dihasilkan selama titik pemeriksaan pelatihan model dan proses Search Augmentation Generation (RAG). Kemampuan perutean adaptif dan kontrol kemacetan Spectrum-X, yang diadaptasi dari teknologi InfiniBand, membantu mengelola aliran data ini, memastikan pemanfaatan jaringan yang tinggi dan hasil yang konsisten. Selain itu, untuk lebih mempercepat jalur data dari penyimpanan ke GPU, kami merekomendasikan rangkaian SDK, pustaka, dan penawaran perangkat lunak NVIDIA, termasuk NVIDIA Air, Cumulus Linux, DOCA, NetQ, dan GPUDirect Storage.

Bagi mereka yang tertarik dengan kemajuan teknis dalam jaringan penyimpanan AI, NVIDIA telah menerbitkan white paper yang membahas secara rinci tentang pengoptimalan jaringan penyimpanan AI dengan Spectrum-X. Ekosistem mitra NVIDIA dapat mempelajari lebih lanjut melalui berbagai posting blog dan white paper, dan sesi mendatang di NVIDIA GTC 2025 akan memberikan informasi terbaru lebih lanjut tentang topik ini.