Microsoft merilis versi 2.0 dari taksonomi mode kegagalan AI berbasis agen, memperluas kerangka kerja dengan tujuh kategori baru berdasarkan temuan dari penilaian tim merah operasional selama setahun.

Pembaruan ini membahas risiko yang muncul termasuk kompromi rantai pasokan berbasis agen, pembajakan tujuan, eskalasi kepercayaan antar agen, serangan visual agen penggunaan komputer, kontaminasi konteks sesi, penyalahgunaan plugin, dan pengungkapan kemampuan.

Pengujian keamanan di seluruh lingkungan berbasis agen yang diterapkan menunjukkan seringnya eksploitasi bypass human-in-the-loop, teknik injeksi prompt, peracunan memori, dan serangan multi-tahap yang mengakumulasi pengaruh selama sesi yang panjang.

Panduan yang direvisi merekomendasikan kontrol rantai pasokan yang lebih kuat, verifikasi identitas kriptografis antar agen, alur kerja persetujuan yang ditingkatkan, dan cakupan pengujian keamanan yang lebih luas seiring organisasi meningkatkan penerapan sistem AI otonom.