Google Cloud mengumumkan serangkaian pembaruan untuk AI Hypercomputer-nya, sebuah sistem superkomputer terintegrasi untuk melatih dan menyajikan model AI dalam skala besar. Sistem ini telah disempurnakan dengan Cluster Director, yang menyederhanakan pengelolaan sumber daya komputasi, jaringan, dan penyimpanan. Selain itu, proyek llm-d merilis versi baru yang mempercepat penerapan model inferensi skala besar di Google Kubernetes Engine.

Penjadwal beban kerja dinamis pada hiperkomputer AI ini menghadirkan opsi penggunaan yang fleksibel, termasuk mode kalender untuk beban kerja yang terprediksi dan mode mulai fleksibel yang memungkinkan sumber daya sesuai permintaan dengan waktu mulai yang fleksibel. Mode-mode ini bertujuan untuk mengoptimalkan sumber daya komputasi dan menyediakan solusi hemat biaya untuk pelatihan dan penyediaan model AI. Dukungan untuk pustaka dan kerangka kerja AI dan ML yang populer juga semakin memperluas fleksibilitas sistem dan pilihan pengguna.

Hiperkomputer AI Google Cloud terus berkembang dengan penambahan MaxText dan MaxDiffusion, solusi sumber terbuka untuk melatih model bahasa skala besar (LLM) dan model difusi. Solusi ini menyediakan implementasi berkinerja tinggi, resep yang sangat mudah direproduksi, dan dukungan untuk model-model populer, sehingga menyederhanakan proses pelatihan bagi pengguna. Integrasi dengan MaxText, pustaka pasca-pelatihan berbasis JAX, menyediakan kemampuan pra-dan pasca-pelatihan yang komprehensif.

Untuk meningkatkan performa beban kerja AI, Google Cloud merilis library pemantauan baru untuk TPU dan meningkatkan layanan Managed Lustre untuk komputasi performa tinggi. Managed Lustre kini menawarkan empat tingkatan performa, mendukung set data yang lebih besar, dan terintegrasi secara mulus dengan Cluster Director dan GKE untuk memfasilitasi alur kerja pelatihan AI. Pembaruan ini mencerminkan komitmen Google Cloud dalam menyediakan alat dan sumber daya canggih untuk pengembangan dan penerapan AI.