Cloudera mengumumkan peluncuran layanan inferensi AI yang didukung oleh layanan mikro NVIDIA sebagai bagian dari platform NVIDIA AI Enterprise. Layanan ini merupakan salah satu layanan pertama di industri yang menawarkan kemampuan layanan mikro NIM bawaan untuk mengatur penggunaan dan pengelolaan model AI dalam skala besar. Hal ini memungkinkan perusahaan memanfaatkan data untuk memindahkan AI generatif (GenAI) dari tahap eksperimental ke produksi skala penuh.

Temuan terbaru dari Deloitte menyoroti bahwa risiko kepatuhan dan masalah tata kelola merupakan hambatan utama penerapan GenAI di perusahaan. Layanan baru Cloudera mengatasi permasalahan ini dengan menyediakan lingkungan yang aman untuk menjalankan model dan aplikasi AI secara pribadi di lokasi atau di cloud publik. Didukung oleh teknologi NVIDIA, layanan ini mempercepat pengembangan chatbot, asisten virtual, dan aplikasi agen berbasis AI yang berdampak pada produktivitas dan pertumbuhan bisnis.

Kolaborasi Cloudera dan NVIDIA memperkuat komitmen Cloudera untuk mendorong inovasi AI perusahaan pada saat yang kritis ketika industri menavigasi kompleksitas integrasi DX dan AI. Pengembang menggunakan GPU Tensor Core NVIDIA untuk membangun dan menerapkan model bahasa besar (LLM) tingkat perusahaan dengan kinerja hingga 36x lebih cepat dan kekuatan pemrosesan hampir 4x lebih besar dibandingkan dengan CPU. Pengalaman pengguna mengintegrasikan UI dan API secara langsung dengan konten layanan mikro NVIDIA NIM, sehingga menghilangkan kebutuhan akan antarmuka baris perintah (CLI) atau sistem pemantauan terpisah.

Layanan Inferens AI dari Cloudera menawarkan kemampuan AI tingkat lanjut, cloud hybrid dan opsi privasi, skalabilitas, pelacakan kinerja real-time, integrasi API terbuka, dan fitur keamanan tingkat perusahaan. Penyempurnaan ini bertujuan untuk menjembatani kesenjangan antara manajemen data tingkat lanjut dan keahlian AI NVIDIA, membantu Anda melindungi data sekaligus memaksimalkan potensinya. Fitur-fitur baru ini akan diperkenalkan pada konferensi AI dan data Cloudera mendatang, Cloudera EVOLVE NY.