Lakera, perusahaan keamanan AI terkemuka yang terkenal dengan game Gandalf AI yang populer, telah resmi diluncurkan untuk menyediakan alat bagi pengembang untuk melindungi aplikasi AI generatif dalam perusahaan. Dengan basis pelanggan yang mencakup perusahaan-perusahaan Fortune 500 dan penyedia LLM terkemuka, perusahaan ini telah lama menjadi sumber daya yang tepat bagi para pengembang yang ingin membangun dan menerapkan sistem AI yang aman. Lakera kini memiliki akses terhadap intelijen ancaman berbasis AI yang terdepan di industri, memungkinkan pengembang dengan cepat melindungi aplikasi AI generatif yang mereka kembangkan.

Pendiri Lakera, David Haber, Matthias Kraft, dan Mateo Rojas-Carulla mengatakan mereka mengidentifikasi kesenjangan di pasar solusi keamanan perusahaan yang dapat memenuhi kebutuhan unik AI. Setelah menghabiskan 10 tahun mengembangkan sistem pembelajaran mesin untuk sektor kedirgantaraan dan medis, kami meluncurkan Lakera untuk memenuhi kebutuhan ini. Menanggapi kebutuhan mendesak akan solusi yang dapat melindungi LLM di lingkungan produksi, perusahaan merilis versi beta dari produk terbarunya, Lakera Guard, pada Agustus 2023. Sejak itu, Lakera Guard telah memungkinkan ribuan pengembang di seluruh dunia untuk mulai mengembangkan aplikasi AI dengan aman.

Lakera Guard memanfaatkan wawasan crowdsourcing dari game edukasi AI yang viral milik perusahaan, Gandalf, serta basis data kepemilikan yang mengintegrasikan basis data sumber terbuka dan penelitian kepemilikan. Basis data ini telah mengumpulkan hampir 30 juta titik data serangan dan terus bertambah lebih dari 100.000 entri setiap hari. Dengan Lakera Guard, pengembang dapat mengaktifkan data kerentanan ini dengan satu baris kode dan langsung menggabungkan lapisan keamanan ke dalam aplikasi AI produksi.

Lakera Guard adalah LLM agnostik dan saat ini memprioritaskan pengamanan kasus penggunaan Tanya Jawab dengan injeksi cepat, deteksi dan penyembunyian PII, moderasi konten, dan perlindungan terhadap halusinasi. Dukungan untuk kasus penggunaan tambahan, termasuk agen LLM otonom, direncanakan dalam beberapa bulan mendatang. Awal tahun ini, Lakera mendapatkan pendanaan sebesar $10 juta dalam putaran yang dipimpin oleh Redalpine dengan partisipasi dari Fly Ventures, Inovia Capital, dan beberapa angel investor.