Dalam perkembangan terbaru, platform komputasi tanpa server telah menambahkan dukungan untuk GPU NVIDIA RTX PRO™ 6000 Blackwell Server Edition ke layanan Cloud Run-nya. Saat ini dalam tahap pratinjau, fitur baru ini memungkinkan pengguna untuk dengan mudah menerapkan model inferensi skala besar, seperti Gemma 3 27B dan Llama 3.1 70B, menghilangkan kebutuhan akan manajemen klaster manual dan pemeliharaan VM.

GPU NVIDIA RTX PRO 6000 Blackwell menghadirkan peningkatan kinerja yang signifikan dibandingkan GPU NVIDIA L4 generasi sebelumnya. Dengan memori vGPU 96GB dan bandwidth 1,6TB/s, GPU ini memungkinkan pemrosesan model dengan lebih dari 70 miliar parameter. Pengguna kini dapat memasang GPU ini ke layanan Cloud Run, pekerjaan, atau kumpulan pekerja mereka sesuai permintaan, tanpa reservasi sebelumnya.

Platform ini mendukung presisi FP4, menjadikan GPU NVIDIA RTX PRO 6000 Blackwell ideal untuk mempercepat tugas Generative AI dan inferensi. Ini memfasilitasi pembuatan aplikasi Generative AI secara real-time dan memungkinkan penskalaan layanan Cloud Run yang cepat. Selain itu, platform ini menawarkan opsi penskalaan yang disesuaikan untuk beban kerja khusus melalui kumpulan pekerja yang dipercepat GPU.

Cloud Run dirancang untuk menyederhanakan menjalankan tugas yang dipercepat GPU di lingkungan produksi. Layanan ini menawarkan opsi komputasi yang fleksibel dengan GPU terkelola dan memastikan keandalan tingkat produksi dengan redundansi zona. Layanan ini terintegrasi erat dengan seluruh ekosistem cloud untuk operasi yang lancar. GPU NVIDIA RTX PRO 6000 Blackwell tersedia di wilayah tertentu. Pengguna disarankan untuk mencoba kemampuannya menggunakan Ollama di Cloud Run.