Sebuah studi baru-baru ini dari Salesforce mengungkapkan tren yang mengkhawatirkan mengenai karyawan yang menggunakan teknologi AI generatif tanpa persetujuan organisasi. Meskipun ada batasan dari perusahaan, lebih dari separuh pengguna mengaku menggunakan alat ini atas kemauan mereka sendiri. Penyalahgunaan ini menimbulkan kekhawatiran serius mengenai keamanan data dan kepatuhan dalam industri yang diatur.

Penelitian terbatas lebih lanjut menyoroti tantangan ini, dengan 63% karyawan bersedia berbagi informasi sensitif pribadi atau perusahaan dengan platform AI generatif, meskipun hal tersebut bertentangan dengan pedoman perusahaan. Dorongan ini menyoroti potensi risiko yang dihadapi perusahaan dalam mengamankan data seiring dengan semakin populernya alat AI.

Menanggapi masalah keamanan ini, sekelompok mantan eksekutif Amazon Web Services dan FIS mendirikan platform keamanan baru yang dirancang untuk membantu perusahaan yang teregulasi memanfaatkan AI yang mereka hasilkan dengan aman. Pendekatan mereka bersifat model-agnostik dan horizontal, sehingga memberikan kontrol ketat kepada bisnis atas data mereka di berbagai interaksi. Hal ini mencakup penggunaan langsung AI yang dihasilkan, integrasi ke dalam perangkat lunak komersial atau aplikasi yang dikembangkan secara internal untuk memastikan kepatuhan dan perlindungan data di setiap titik kontak.