NVIDIA mengumumkan NeMo Guardrails, alat baru yang dirancang untuk meningkatkan keamanan dan keandalan agen AI dan aplikasi AI percakapan. Alat ini menyediakan serangkaian kemampuan yang penting untuk menjaga interaksi AI yang andal dan sesuai merek, termasuk keamanan konten, kontrol topik, dan deteksi jailbreak. Dengan menilai dan mengoptimalkan kinerja guardrails, perusahaan dapat memastikan bahwa aplikasi AI mematuhi persyaratan pengalaman pengguna dan desain dalam batasan yang ditetapkan.

Alat penilaian dalam NeMo Guardrails menyediakan analisis terperinci tentang tingkat compliance kebijakan dan menawarkan wawasan tentang metrik kinerja utama seperti latency dan efisiensi penggunaan token. Hal ini memungkinkan organisasi untuk membuat keputusan yang tepat tentang menyeimbangkan kinerja dan efisiensi biaya. Alat ini sangat berguna untuk menavigasi trade-off antara memaksimalkan throughput dan mengoptimalkan penggunaan token, memberikan pandangan komprehensif untuk memandu pengambilan keputusan.

NeMo Guardrails dari NVIDIA menggunakan metodologi penilaian yang kuat yang menggunakan pembatas berbasis kebijakan untuk memastikan bahwa agen AI dan chatbot berperilaku sebagaimana mestinya. Metode ini mengukur compliance kebijakan menggunakan kumpulan data interaksi yang dikurasi yang disesuaikan dengan perilaku yang diharapkan yang ditetapkan dalam kebijakan. Selain menghitung tingkat compliance , pendekatan ini juga mempertimbangkan metrik tambahan seperti latency respons dan throughput keseluruhan, yang memberikan pandangan holistik tentang kinerja aplikasi AI.

Alat penilaian NeMo Guardrails menyederhanakan proses pemantauan dan pengukuran efektivitas guardrail AI. Alat ini mengintegrasikan layanan mikro NVIDIA NIM untuk menganalisis permintaan pengguna terkait keamanan konten, kontrol topik, dan deteksi jailbreak. Alat ini melacak interaksi dan menghitung tingkat compliance kebijakan serta latency untuk memantau logika guardrail internal dan yang dihadapi pengguna secara saksama. Dengan menyempurnakan konfigurasi guardrail secara berulang dan menyeimbangkan sasaran kinerja, organisasi dapat menerapkan sistem AI yang akurat, aman, responsif, dan hemat biaya.