NVIDIA telah mengumumkan rangkaian baru layanan mikro NIM yang dirancang untuk meningkatkan keamanan dan keandalan agen AI. Layanan mikro ini, bagian dari koleksi NVIDIA NeMo Guardrails, ditujukan untuk memenuhi kebutuhan penting akan keandalan dan compliance dalam aplikasi AI. Dengan menyediakan alat yang meningkatkan akurasi dan skalabilitas, NVIDIA memungkinkan perusahaan untuk membuat aplikasi AI generatif yang aman dan patuh secara etika.

Platform NeMo Guardrails berperan penting dalam mengelola dan mengintegrasikan guardrail AI, terutama dalam aplikasi model bahasa berskala besar. Platform ini telah digunakan oleh para pemimpin industri seperti Amdocs, Cerence AI, dan Lowe's untuk memastikan bahwa aplikasi AI terlindungi dari potensi risiko. Layanan mikro NIM memungkinkan pengembang untuk membangun agen AI yang tidak hanya aman tetapi juga mampu memberikan respons yang sesuai konteks dalam pedoman tertentu.

Salah satu layanan mikro yang baru diperkenalkan berfokus pada keamanan konten dan dilatih menggunakan Aegis Content Safety Dataset, kumpulan data yang tersedia untuk umum, berkualitas tinggi, dan diberi anotasi manusia. Layanan mikro ini membantu memoderasi konten yang dihasilkan AI untuk mencegah keluaran yang bias atau berbahaya. NVIDIA juga telah merilis layanan mikro untuk kontrol topik dan deteksi jailbreak, yang membantu menjaga integritas agen AI di seluruh industri.

Komitmen NVIDIA untuk mengamankan AI juga meluas ke komunitas sumber terbuka, tempat para pengembang dapat menggunakan NeMo Guardrails untuk mengatur berbagai kebijakan perangkat lunak AI. Kerangka kerja ini membantu menciptakan sistem AI yang dapat diterapkan dalam skala besar tanpa mengorbankan keselamatan atau kinerja. Dengan mengintegrasikan alat-alat ini, perusahaan-perusahaan seperti Amdocs, Cerence AI, dan Lowe's meningkatkan kemampuan layanan pelanggan mereka dengan menyediakan interaksi yang digerakkan oleh AI yang lebih aman dan lebih andal.