Aladdin Security (Kota Kyoto) telah merilis alat keamanan yang mengevaluasi kualitas, keamanan, dan kemampuan menjelaskan AI. Alat ini memverifikasi perilaku internal AI dalam lingkungan kotak putih, mengungkap masalah yang sering diabaikan dalam model kotak hitam tradisional.

Seiring dengan semakin luasnya penggunaan Generative AI dalam bisnis, banyak perusahaan menghadapi tantangan dalam menilai akurasi AI dan risiko internal. Aladdin Security telah mengembangkan alat yang mengekstrak risiko tanpa perlu melakukan penyesuaian detail dengan menganalisis vektor dalam model.

Alat perusahaan ini memvisualisasikan parameter model dan mekanisme perhatian, serta menggunakan teknologi red teaming untuk mensimulasikan serangan terhadap kerentanan, sehingga membantu menilai risiko keamanan AI dengan biaya rendah dan memperkuat tata kelola perusahaan.

Aladdin Security akan terus memperkuat fungsi evaluasi otomatisnya untuk model yang disesuaikan dan memperluas templatnya agar sesuai dengan peraturan khusus industri, dengan tujuan berkontribusi pada peningkatan keandalan AI.