NVIDIA memperkenalkan NVIDIA NIM, sebuah komponen NVIDIA AI Enterprise, untuk mempermudah pengembangan dan penerapan aplikasi perusahaan yang didukung AI. Teknologi ini adalah serangkaian layanan mikro cloud-native yang bertujuan untuk mempercepat waktu pemasaran model AI generatif dan menyederhanakan penerapan di berbagai platform, termasuk cloud, pusat data, dan workstation yang dipercepat GPU. NIM menyediakan API standar industri yang memungkinkan pengembang dengan mudah mengintegrasikan kemampuan AI ke dalam aplikasi mereka tanpa harus menavigasi kompleksitas pengembangan model AI.

Adopsi AI generatif telah meningkat secara signifikan, dengan ChatGPT OpenAI yang memimpin, menjangkau lebih dari 100 juta pengguna segera setelah dirilis. Ketika organisasi bergerak menuju implementasi operasional skala penuh, mereka dihadapkan pada tantangan dalam mengintegrasikan model AI dengan infrastruktur yang ada dan memastikan sistem dioptimalkan. NVIDIA NIM berupaya mengatasi tantangan ini dengan menyediakan jalur yang efisien untuk penerapan model AI, memungkinkan pengembang untuk fokus menciptakan transformasi AI untuk perusahaan mereka tanpa memerlukan keahlian khusus.

Desain NVIDIA NIM difokuskan untuk menjembatani kesenjangan antara pengembangan AI dan kebutuhan operasional di lingkungan perusahaan. Ini mendukung penerapan di berbagai infrastruktur dan dilengkapi dengan kontainer siap pakai dan diagram Helm untuk model yang dioptimalkan. Layanan mikro divalidasi di seluruh platform perangkat keras NVIDIA dan penyedia layanan cloud untuk memastikan kompatibilitas dan kontrol. Selain itu, NIM menyediakan model khusus domain dan mesin inferensi yang dioptimalkan untuk meningkatkan kinerja dan akurasi aplikasi perusahaan.

Bagi perusahaan yang ingin menyesuaikan model AI mereka, NVIDIA menawarkan layanan mikro tambahan untuk menyempurnakan model di berbagai domain. NVIDIA NeMo, BioNeMo, dan Picasso masing-masing menyediakan AI suara, penemuan obat, dan kemampuan alur kerja kreatif. Pengembang dapat mengakses berbagai model AI melalui katalog API NVIDIA dan menerapkannya ke penyedia cloud atau lokal menggunakan Kubernetes. NVIDIA NIM menyederhanakan proses penerapan AI, mengoptimalkan efisiensi infrastruktur, dan mengurangi biaya sekaligus mendukung berbagai kasus penggunaan AI. saus: