Seiring dengan semakin banyaknya perusahaan yang menerapkan model bahasa besar (LLM) dalam sistem agen, kebutuhan akan langkah-langkah keamanan yang tangguh pun semakin meningkat. Sistem AI dengan kemampuan perilaku dan penalaran otonom ini menghadirkan risiko baru seperti ketidakselarasan tujuan dan kurangnya pengawasan manusia. Sifat dinamis lingkungan regulasi semakin memperumit situasi, meningkatkan risiko liabilitas dan masalah kepercayaan. Untuk mengatasi tantangan ini, pendekatan keamanan AI yang komprehensif telah diperkenalkan yang bertujuan untuk meningkatkan siklus hidup AI dengan set data terbuka, metode evaluasi, dan resep pasca-pelatihan.

Resep keamanan dirancang untuk membantu manajer kebijakan, pemilik risiko, dan peneliti AI secara proaktif mengelola ancaman keamanan dan menegakkan kebijakan perusahaan. Resep ini mencakup NVIDIA NeMo Guardrails, sebuah alat yang memitigasi risiko waktu inferensi seperti adversarial prompting dan pelanggaran compliance . Pendekatan terstruktur ini memungkinkan organisasi untuk meningkatkan skala aplikasi AI dengan percaya diri sekaligus menjaga compliance terhadap standar keamanan dan compliance internal dan eksternal.

Langkah-langkah keamanan tradisional seringkali tidak mampu mengimbangi risiko yang terus berkembang dalam alur kerja AI berbasis agen. Resep Keamanan yang baru diperkenalkan menyediakan kerangka kerja tingkat perusahaan untuk membangun, menerapkan, dan mengoperasikan sistem AI yang mematuhi persyaratan kepercayaan dan kebijakan. Resep ini menyediakan serangkaian alat penilaian, set data keamanan, dan teknik mitigasi risiko untuk memastikan keandalan dan transparansi sistem AI. Hal ini mencakup mengatasi tantangan moderasi konten dan melindungi dari ancaman keamanan seperti serangan injeksi cepat.

Resep Keamanan telah menunjukkan efektivitasnya dalam uji tolok ukur terdepan di industri, menunjukkan peningkatan signifikan dalam keamanan konten dan keamanan produk. Organisasi yang menerapkan resep ini mengalami peningkatan keamanan konten sebesar 6% dan ketahanan keamanan sebesar 7%. Peningkatan ini penting untuk operasionalisasi model terbuka dan penerapan sistem AI berbasis agen tingkat perusahaan yang bertanggung jawab. Resep ini dapat diunduh dan diterapkan di cloud, menjadikannya alat praktis bagi organisasi untuk memperkuat keamanan sistem AI mereka.