Microsoft melaporkan bahwa meningkatnya AI berbasis agen mengubah kekhawatiran keamanan, karena sistem tersebut dapat mengakses data, memanggil alat, dan bertindak menggunakan identitas dan izin nyata.

Perusahaan tersebut merujuk pada temuan dari OWASP, yang mengidentifikasi risiko utama termasuk pembajakan tujuan, penyalahgunaan alat, dan penyalahgunaan hak akses dalam sistem otonom.

Dinyatakan bahwa kegagalan dalam sistem ini meluas melampaui output yang salah, berpotensi memicu efek berantai di seluruh alur kerja, sistem, dan lingkungan data.

Microsoft menyoroti platform seperti Microsoft Copilot Studio dan Microsoft Agent 365 sebagai bagian dari pendekatannya untuk menegakkan tata kelola, visibilitas, dan keamanan di seluruh siklus hidup AI berbasis agen.