Keamanan Siber GMO oleh Ierae (Shibuya-ku, Tokyo) dan Mitsubishi Research Institute DCS (Shinagawa-ku, Tokyo) mengumumkan kolaborasi untuk memperkuat keamanan AI yang dihasilkan. Mulai 28 November 2024, perusahaan akan meluncurkan layanan ``diagnosis keamanan sistem AI yang dihasilkan''. Layanan ini memanfaatkan "Diagnosis Keamanan LLM" yang dikembangkan oleh GMO Cyber ​​​​Security oleh Ierae untuk menilai risiko sistem yang menggunakan LLM seperti GPT.

Dengan penyebaran AI generatif, risiko keamanan baru pun muncul. Mitsubishi Research Institute DCS memiliki pengetahuan tentang langkah-langkah keamanan di industri keuangan, dan GMO Cyber ​​​​Security oleh Ierae memiliki keahlian dalam peretas kulit putih. Melalui kerja sama antara kedua perusahaan, kami akan mengidentifikasi ancaman terhadap sistem yang dilengkapi AI dan mengusulkan tindakan penanggulangannya.

"Diagnosis Keamanan Sistem AI yang Dihasilkan" mendeteksi risiko keamanan dengan melakukan serangan semu menggunakan perintah bermusuhan pada LLM seperti GPT-3.5 dan GPT-4. Detailnya dapat ditemukan di halaman layanan (https://www.dcs.co.jp/solution/ai_diagnostic/).

Di masa depan, GMO Cyber ​​​​Security oleh Yerae dan Mitsubishi Research Institute DCS berencana untuk memperkuat tindakan pencegahan terhadap risiko keamanan yang terkait dengan evolusi teknologi AI dan mendukung penggunaan AI oleh pelanggan. Lebih lanjut, perusahaan berencana menjajaki kolaborasi di bidang lain dan memberikan ketenangan pikiran dengan meningkatkan kemampuannya dalam merespons risiko siber.