Pada Mobile World Congress di Barcelona, ​​sebuah alat keamanan baru bernama Lobster Trap diperkenalkan oleh perusahaan infrastruktur edge berbasis AI terkemuka. Alat ini dirancang untuk memantau dan menegakkan aturan interaksi antara agen AI dan model bahasa yang mendukungnya. Alat ini sekarang tersedia sebagai penawaran open-source di bawah lisensi MIT, dan merupakan bagian dari control plane perusahaan untuk sistem otonom yang diatur, yang dikenal sebagai TerraFabric.

Perusahaan telah menjalin kemitraan strategis dengan platform produksi perangkat lunak AI terkemuka untuk mendorong adopsi Lobster Trap. Kolaborasi ini bertujuan untuk mengintegrasikan alat keamanan tersebut ke dalam lingkungan pengembangan AI platform, menyediakan sarana bagi lebih dari seperempat juta pengembang AI untuk membangun dan menyebarkan aplikasi AI dengan penegakan kebijakan bawaan.

Lobster Trap beroperasi dengan meneliti setiap komunikasi antara agen AI dan model bahasa, memastikan compliance terhadap kebijakan keamanan yang telah ditetapkan. Proses ini dirancang agar cepat, tidak menyebabkan penundaan yang signifikan, dan kompatibel dengan backend AI yang menggunakan antarmuka standar yang kompatibel dengan OpenAI. Alat ini dilengkapi dengan kemampuan untuk mendeteksi berbagai ancaman keamanan, termasuk upaya injeksi cepat dan pola eksfiltrasi data.

Platform TerraFabric milik perusahaan ini disorot sebagai solusi komprehensif untuk mengelola sistem otonom di edge computing. Platform ini mengatur infrastruktur terdistribusi, menerapkan penegakan kebijakan dan kontrol siklus hidup. Lobster Trap memperluas tata kelola ini ke lapisan percakapan, memastikan bahwa beban kerja mematuhi kebijakan dalam interaksinya dengan model bahasa. Bagi organisasi yang tertarik dengan TerraFabric dan Lobster Trap, akses awal tersedia berdasarkan permintaan.