Sistem Common Vulnerabilities and Exposures (CVE), sebuah metode yang diakui secara luas untuk mengidentifikasi dan mengatasi kelemahan keamanan perangkat lunak, menghadapi tantangan baru seiring dengan meningkatnya penggunaan model kecerdasan buatan (AI) dalam sistem perusahaan. Para pakar keamanan sedang memperdebatkan apakah model AI perlu dimasukkan ke dalam sistem CVE, mengingat model tersebut menimbulkan risiko unik, seperti prompt adversarial dan data pelatihan yang terkontaminasi, yang tidak sesuai dengan definisi kerentanan CVE tradisional.

Ada konsensus yang berkembang di antara para ahli bahwa CVE seharusnya menargetkan aplikasi dan kerangka kerja yang menggunakan model AI, alih-alih model itu sendiri. Model AI pada dasarnya adalah sistem matematika yang diparameterisasi, dan masalah keamanan yang sebenarnya terletak pada kode yang melingkupinya, seperti pemrosesan data dan manajemen sesi. Menetapkan CVE ke model AI dapat memberikan gambaran yang keliru tentang sifat risiko yang melekat pada kerangka kerja dan alat yang mengimplementasikannya.

Ketika mempertimbangkan penerapan CVE pada model AI, penting untuk membedakan antara perilaku probabilistik model-model ini dan kerentanan keamanan yang sebenarnya. Banyak masalah dengan model AI tidak spesifik untuk setiap contoh tertentu, melainkan umum untuk sistem pembelajaran mesin secara umum. Akibatnya, CVE untuk model AI mungkin tidak memberikan informasi yang dapat ditindaklanjuti dan dapat melemahkan efektivitas sistem CVE.

Untuk menerapkan CVE dengan tepat, fokusnya harus pada kerangka kerja dan aplikasi yang dapat dieksploitasi, alih-alih pada model AI itu sendiri. Pendekatan ini memastikan bahwa CVE tetap menjadi sumber daya yang berharga untuk melacak dan memitigasi kelemahan keamanan yang sebenarnya yang dapat diatasi oleh pengembang dan tim keamanan. Alih-alih hanya mengklasifikasikan perilaku statistik sebagai kerentanan, komunitas keamanan didorong untuk memperkuat jaminan rantai pasokan, kontrol akses, dan pemantauan, serta memperkuat ekosistem di sekitar model AI.