MITER dan Robust Intelligence telah bekerja sama untuk mendukung alat gratis yang membantu organisasi menilai risiko rantai pasokan yang terkait dengan model AI yang tersedia untuk umum. Kemitraan ini juga mencakup kerja sama dengan Indiana University untuk mengembangkan alat penilaian risiko otomatis. Ketika model AI yang canggih tersedia di repositori publik, organisasi dapat lebih mudah memasukkan AI ke dalam sistem mereka. Namun, alat pengujian independen untuk menilai risiko terkait masih terbatas. Untuk mengatasi masalah ini, Robust Intelligence membuat AI Risk Database sebagai sumber daya komunitas pada bulan Maret 2023. Setelah peningkatan lebih lanjut melalui kolaborasi dengan MITER, versi open source baru kini dapat diakses di GitHub. Rencana jangka panjangnya adalah untuk menyelenggarakannya di bawah rangkaian alat MITRE ATLAS yang lebih luas. ATLAS adalah basis pengetahuan yang dapat diakses secara global yang berisi daftar taktik dan teknik musuh berdasarkan pengamatan serangan di dunia nyata dan kerja sama AI merah. Ini juga menyediakan tautan ke alat lain yang memungkinkan emulasi serangan. Melalui kolaborasi Robust Intelligence dan MITER, risiko seperti skor risiko, kerentanan perangkat lunak, dan CVE terkait dikarakterisasi dan dioperasionalkan. Karakterisasi ini akan meningkatkan kesadaran akan risiko dan kerentanan yang dapat timbul ketika menggunakan model AI open source. “Kolaborasi dan peluncuran Basis Data Risiko AI ini akan membantu lebih banyak organisasi memutuskan apa yang harus mereka pertimbangkan ketika menerapkan jenis sistem berkemampuan AI tertentu,” kata Douglas Robbins, wakil presiden bidang teknik dan pembuatan prototipe di MITER untuk melihat sendiri apakah mereka terkena risiko secara langsung dan rentan.” Dia menambahkan bahwa sebagai alat open source terbaru di bawah MITRE ATLAS, kemampuan ini akan terus memberikan masukan bagi penilaian risiko dan prioritas mitigasi di seluruh dunia. Institut Ilmu Data dan Kecerdasan Buatan Kelley di Universitas Indiana juga berpartisipasi dalam kolaborasi ini, yang mencakup kemampuan untuk memindai repositori GitHub yang digunakan untuk membuat model yang tersedia di platform pihak ketiga. Fitur ini memungkinkan pengguna untuk mengidentifikasi kerentanan perangkat lunak yang dilaporkan secara publik yang ada di hulu artefak model terdistribusi. Yaron Singer, CEO dan salah satu pendiri Robust Intelligence mengungkapkan kegembiraannya. Dia yakin MITRE ATLAS adalah penjaga ideal database risiko AI dan bahwa keahlian bersama kedua perusahaan akan memungkinkan penggunaan model sumber terbuka dengan aman di masa depan. Kolaborasi kami dengan MITER, Robust Intelligence, dan komunitas keamanan dan jaminan AI yang lebih luas terus memperluas dampak dan kegunaan AI Risk Database sebagai sumber daya gratis yang didukung komunitas.