Pada 19 Juli waktu setempat, Google mengungkapkan di ``Kata Kunci'' keberadaan Tim Merah AI yang mengkaji risiko AI perusahaan. Perusahaan telah memperkenalkan Kerangka AI Aman (SAIF) di masa lalu, tetapi mengatakan bahwa komponen penting dari F kali ini adalah Tim AI Merah. Tim ini adalah sekelompok peretas etis yang menyimulasikan berbagai musuh untuk mempersiapkan organisasi menghadapi potensi ancaman dunia nyata.

Kerja sama merah dalam konteks sistem AI
Tim merah, yang berasal dari praktik militer, melibatkan tim yang ditunjuk memainkan peran musuh melawan tim "tuan rumah". Tim Merah AI Google menerapkan konsep ini pada kemajuan AI terkini dan memanfaatkan keahlian subjek AI untuk melakukan serangan teknis yang kompleks. Kolaborasi dengan tim Google Threat Intelligence dan penelitian dari Google DeepMind memastikan simulasi aktivitas permusuhan yang realisme.

Jenis umum serangan tim merah terhadap sistem AI
Tim Merah AI Google menggunakan penelitian yang relevan untuk menguji produk dan fitur AI di dunia nyata. Latihan mereka bertujuan untuk mengungkap kerentanan keamanan, privasi, dan eksploitasi berdasarkan cara teknologi diterapkan. TTP (singkatan dari Tactics, Techniques, Procedures) yang digunakan dalam tim merah meliputi serangan instan, ekstraksi data pelatihan, model pintu belakang, contoh permusuhan, keracunan data, Berisi kebocoran.

Pembelajaran dan prospek masa depan
Upaya Tim Merah AI telah mengidentifikasi kerentanan dalam sistem AI, dan keahlian tim dalam mengatasi serangan kompleks terbukti penting. Mengatasi temuan Tim Merah mungkin menimbulkan tantangan, namun hal ini akan memajukan upaya penelitian dan pengembangan produk.

Laporan ini menyoroti pentingnya latihan tim merah secara teratur untuk secara efektif melindungi penerapan AI yang penting. Jika digabungkan dengan kontrol keamanan tradisional, kerja sama merah akan memperkuat pertahanan sistem AI. Tim Merah Google terus beradaptasi terhadap ancaman yang terus berkembang dan mendorong organisasi lain untuk berkolaborasi guna memajukan SAIF dan meningkatkan standar keamanan industri.