Microsoft menerbitkan panduan keamanan yang menjelaskan pola serangan yang semakin meningkat yang menargetkan agen AI melalui alat Model Context Protocol (MCP) yang telah disusupi. Laporan tersebut berfokus pada risiko rantai pasokan karena agen AI perusahaan semakin banyak melakukan tindakan alih-alih hanya menghasilkan respons.

Menurut Microsoft, penyerang dapat memodifikasi deskripsi alat MCP dengan instruksi tersembunyi yang memengaruhi proses pengambilan keputusan agen. Dalam skenario keuangan yang ditunjukkan, agen AI tanpa sadar mengumpulkan data faktur sensitif dan mengirimkannya ke layanan eksternal sambil tampak menyelesaikan tugas validasi yang sah.

Perusahaan menekankan bahwa serangan tersebut mengeksploitasi hubungan kepercayaan antara agen AI dan alat eksternal, bukan kerentanan pada agen itu sendiri. Karena setiap tindakan individu tampak diotorisasi, aktivitas jahat dapat tetap tidak terdeteksi tanpa pemantauan dan tata kelola khusus.

Microsoft merekomendasikan untuk mengontrol server MCP yang disetujui, memeriksa metadata alat, menegakkan kebijakan pencegahan kehilangan data, mensyaratkan persetujuan manusia untuk tindakan sensitif, dan mengkorelasikan telemetri agen dengan Microsoft Sentinel dan layanan keamanan lainnya untuk mendeteksi perilaku abnormal.