Sebuah perusahaan baru, Harmonic Security, telah diluncurkan untuk fokus memastikan penggunaan AI generatif secara aman. Perusahaan ini bertujuan untuk mengatasi risiko yang terkait dengan meningkatnya penggunaan aplikasi AI generatif, yang seringkali tidak diatur dan memiliki kebijakan penggunaan data yang tidak jelas. Situasi ini menempatkan perusahaan pada risiko "bayangan AI", yang mana karyawan menggunakan aplikasi tersebut dan data serta kekayaan intelektual dapat disusupi.

Perusahaan, yang berkantor pusat di London dan San Francisco, didirikan oleh CEO Alastair Paterson dan CTO Bryan Woolgar-O'Neil. Perusahaan ini telah menerima pendanaan awal sebesar $7 juta dari berbagai investor termasuk Ten Eleven Ventures dan Storm Ventures. Kedua pendiri memiliki latar belakang yang kuat di bidang keamanan siber, dimana Paterson sebelumnya mendirikan dan memimpin Digital Shadows, pemimpin yang diakui dalam bidang intelijen ancaman dan perlindungan risiko digital.

Paterson menekankan kebutuhan mendesak bagi perusahaan seperti Harmonic Security mengingat pesatnya pertumbuhan ekosistem AI generatif. Dia mencatat bahwa banyak perusahaan tidak memiliki kebijakan AI dan kesulitan mengelola penggunaan layanan AI yang tidak aman. Organisasi ingin mendapatkan manfaat dari peningkatan produktivitas yang dihasilkan oleh AI, namun sering kali tidak memiliki pemahaman yang diperlukan mengenai risiko yang ada dan sumber daya untuk mengelolanya secara efektif.

Harmonic Security bertujuan untuk memberikan gambaran komprehensif tentang adopsi AI dalam perusahaan, sehingga memberikan visibilitas yang dibutuhkan para pemimpin keamanan. Perusahaan memberikan penilaian risiko untuk semua aplikasi AI, mengidentifikasi aplikasi yang dapat menyebabkan insiden kepatuhan, keamanan, dan privasi. Pendekatan ini memungkinkan organisasi untuk mengontrol akses ke aplikasi AI sesuai kebutuhan, termasuk memblokir unggahan konten sensitif. Perusahaan mengatakan layanannya sepenuhnya otomatis, sehingga mengurangi beban tim keamanan yang ada dan membantu mereka tetap terdepan dalam menghadapi semakin banyaknya aplikasi AI.