NVIDIA mengumumkan Run:ai, platform orkestrasi AI berbasis Kubernetes yang mengatasi tantangan yang dihadapi lingkungan Kubernetes, seperti pemanfaatan GPU yang tidak efisien dan kesulitan dalam menerapkan tata kelola. Run:ai memungkinkan penjadwalan sumber daya GPU yang dinamis dan berbasis kebijakan, mengoptimalkan pemanfaatan sumber daya, dan memastikan prioritas beban kerja di seluruh tim.

Integrasi NVIDIA Run:ai dengan Microsoft Azure meningkatkan pengelolaan beban kerja AI pada jajaran mesin virtual akselerasi GPU Azure . Mesin virtual ini, yang didukung oleh GPU NVIDIA, dirancang untuk berbagai tugas, mulai dari pembelajaran mendalam hingga cloud gaming. Perangkat lunak Run:ai memanfaatkan Azure Kubernetes Service (AKS) untuk orkestrasi dan virtualisasi sumber daya GPU yang efisien, memberikan pengalaman yang lancar untuk proyek AI.

Azure Kubernetes Service (AKS) semakin disempurnakan oleh NVIDIA Run:ai, dengan menambahkan lapisan cerdas yang mengelola sumber daya GPU secara dinamis. Integrasi ini memungkinkan penjadwalan beban kerja AI yang efisien, mengurangi waktu idle GPU, dan memaksimalkan throughput. Integrasi ini juga mendukung kebijakan kuota dalam AKS, memastikan akses dan tata kelola yang adil di berbagai tim.

NVIDIA Run:ai mendukung strategi infrastruktur hibrida yang memadukan pusat data lokal dengan platform cloud. Pendekatan ini bermanfaat bagi perusahaan yang membutuhkan kontrol lokal untuk beban kerja sensitif sekaligus skalabilitas sumber daya cloud. Run:ai tersedia sebagai penawaran privat di Microsoft Marketplace, memungkinkan penerapan dan integrasi yang fleksibel ke dalam perjanjian perusahaan yang ada, sehingga menyederhanakan proses adopsi bagi organisasi yang ingin meningkatkan operasi AI mereka.