Google(California, AS) tengah berupaya meningkatkan performa model yang berjalan di Kubernetes dan Google Kubernetes Engine (GKE) sebagai respons terhadap meningkatnya permintaan infrastruktur akibat pertumbuhan model AI/ML. Secara khusus, perusahaan ini berkolaborasi dengan komunitas sumber terbuka agar Kubernetes dapat mengenali fitur perangkat keras khusus. Google telah berfokus pada pengembangan kerangka kerja alokasi sumber daya dinamis (DRA) untuk Kubernetes dan mengusulkan Alokasi Sumber Daya Dinamis untuk Jaringan (DRANET).

Google hari ini mengumumkan pratinjau Managed DRANET untuk Google Kubernetes Engine (GKE). Tersedia di instans A4X Max, Google Cloud akan menerapkan Managed DRANET dalam tahap produksi. Solusi ini secara cerdas mengalokasikan antarmuka jaringan berkinerja tinggi pada Kubernetes untuk mengatasi kinerja jaringan dan kompleksitas operasional beban kerja AI.

DRANET di GKE dioptimalkan secara khusus untuk beban kerja AI yang menggunakan beberapa GPU. Namun, antarmuka jaringan Kubernetes tradisional menyulitkan pemanfaatan fitur-fitur ini secara maksimal. Dengan DRANET Terkelola Google, bidang kontrol GKE memungkinkan penyelarasan NUMA antara GPU dan antarmuka jaringan, sehingga meningkatkan throughput.

Instans Google Cloud A4X Max berbasis sistem skala rak NVIDIA GB300 NVL72 dan, dikombinasikan dengan Managed DRANET untuk GKE, memaksimalkan performa perangkat keras, memastikan setiap GPU memiliki jalur jaringan khusus, konsisten, dan berlatensi rendah yang dibutuhkan. Detail selengkapnya tentang instans ini, yang dirancang untuk AI skala ultra-besar, dapat ditemukan di blog peluncuran.