Vectra AI (San Jose, California) menghadirkan tantangan dan solusi bagi petugas keamanan informasi perusahaan saat menggunakan asisten AI Microsoft, Copilot. Peneliti AS telah menunjukkan bahwa Copilot dapat menyebabkan kerentanan keamanan dan mengeluarkan peringatan melalui program yang disebut ConfusedPilot.

Program asisten AI yang menggunakan AI generatif meningkatkan risiko pelanggaran keamanan, dan banyak organisasi tidak mengambil tindakan pencegahan. Gartner memperkirakan bahwa belanja keamanan akan meningkat lebih dari 15% pada tahun 2025, dan para pemimpin keamanan juga mengkhawatirkan dampak penggunaan asisten AI terhadap infrastruktur keamanan.

Meskipun penyedia program asisten AI, termasuk Microsoft, berupaya menghilangkan kekhawatiran pengguna, para pemimpin keamanan perlu memahami dengan tepat apa saja masalah keamanan untuk melindungi organisasi mereka. Menurut Statista, pasar AI generatif di Asia Pasifik diperkirakan akan mencapai USD 86,77 miliar pada tahun 2030.

Meningkatnya solusi AI generatif mendorong pengenalan AI di seluruh bisnis, dan meningkatkan pentingnya peningkatan keterampilan dan metode pengendalian terkait AI. Microsoft Copilot adalah contoh utama solusi AI generatif yang memerlukan kehati-hatian untuk mengurangi masalah keamanan. Vectra AI menyediakan solusi deteksi dan respons tambahan yang didukung AI untuk membantu tim keamanan menutup kerentanan keamanan data.