NVIDIA telah mengumumkan pembaruan untuk Collective Communications Library (NCCL) versi 2.28, yang meningkatkan performa untuk sistem multi-GPU dan multi-node. Pembaruan ini memperkenalkan fitur-fitur seperti jaringan berbasis GPU dan API perangkat, yang memungkinkan perpaduan komunikasi dan komputasi yang mulus. Integrasi ini meningkatkan throughput, mengurangi latency, dan mengoptimalkan pemanfaatan GPU.

Rilis baru ini menghadirkan beberapa peningkatan penting, termasuk kemampuan untuk mengembangkan kernel perangkat kustom melalui API perangkat, yang memfasilitasi manipulasi jaringan langsung oleh kernel. Selain itu, pengenalan kolektif berbasis mesin penyalin meminimalkan penggunaan sumber daya dan memungkinkan transfer data yang lebih efisien. Alat NCCL Inspector juga diperkenalkan, menyediakan plugin profiling dengan beban rendah yang memungkinkan continuous monitoring .

NCCL 2.28 semakin meningkatkan pengalaman pengembang dengan menyediakan API yang diperluas dan alat yang lebih baik. Rilis ini mendukung komunikasi langsung kernel, memungkinkan perpindahan data tanpa intervensi host, dan memperkenalkan GPU-Initiated Networking (GIN), yang memungkinkan operasi jaringan GPU secara otonom. Kemajuan ini bertujuan untuk menyederhanakan proses pengembangan dan memungkinkan terciptanya aplikasi terdistribusi yang lebih efisien dan skalabel.

Pengembang dapat memanfaatkan fitur profiling dan observabilitas yang ditingkatkan dari NCCL Inspector. Alat ini menyediakan log dan analisis performa yang detail untuk membantu mengoptimalkan alur kerja komunikasi. Pembaruan ini juga mencakup dukungan untuk API host baru dan kernel simetris yang dikelompokkan, yang berkontribusi pada penyetelan performa dan manajemen sumber daya yang lebih baik. Dengan penyempurnaan ini, NCCL 2.28 NVIDIA diharapkan dapat memfasilitasi pelatihan terdistribusi dan penskalaan aplikasi yang lebih efisien.