NVIDIA telah mengumumkan platform AI baru, DGX Cloud Lepton, yang bertujuan untuk meningkatkan produktivitas pengembang dengan menyediakan akses terpadu ke sumber daya GPU dan layanan AI. Saat ini dalam tahap akses awal, platform ini bertujuan untuk menyederhanakan proses pembuatan, pelatihan, dan penerapan aplikasi AI melalui integrasi yang lancar dengan tumpukan perangkat lunak NVIDIA, termasuk alat seperti NVIDIA NIM dan NVIDIA NeMo, serta dukungan yang akan datang untuk NVIDIA Blueprints dan NVIDIA Cloud Functions.

Platform ini menjawab permintaan yang terus meningkat untuk pengembangan AI yang dapat diskalakan, memberikan pengembang akses ke serangkaian GPU yang beragam di seluruh jaringan penyedia cloud global. DGX Cloud Lepton menyederhanakan penemuan dan alokasi sumber daya GPU, yang memungkinkan pengembang untuk mengoptimalkan penempatan beban kerja berdasarkan berbagai faktor termasuk wilayah, biaya, dan kinerja. Platform ini juga menyediakan lingkungan pengembangan yang konsisten dan mengurangi kompleksitas manajemen multi-cloud.

Banyak penyedia cloud global, termasuk Amazon Web Services, telah bermitra dengan NVIDIA untuk menyediakan GPU mereka di DGX Cloud Lepton. Kolaborasi ini memperluas jangkauan platform dan memberi pengembang fleksibilitas untuk memenuhi persyaratan kedaulatan data dan kebutuhan lokasi data strategis. Hugging Face juga berencana untuk mengintegrasikan DGX Cloud Lepton ke dalam Training Cluster as a Service, yang selanjutnya memperluas kemampuan platform untuk peneliti AI.

NVIDIA mendorong para pengembang untuk mengeksplorasi potensi DGX Cloud Lepton melalui program akses awal. Platform ini menyediakan pengalaman pengguna yang konsisten di seluruh antarmuka dan mendukung berbagai beban kerja, mulai dari pengembangan interaktif hingga pemrosesan batch hingga penyajian model secara real-time. Melalui DGX Cloud Lepton, NVIDIA bertujuan untuk menyederhanakan penerapan beban kerja AI dan pembelajaran mesin yang terkontainerisasi dan menyediakan dukungan untuk registri kontainer yang sesuai dengan OCI, termasuk registri kontainer NGC milik NVIDIA sendiri.