Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Lakera, công ty bảo mật AI nổi tiếng với trò chơi Gandalf AI nổi tiếng, đã chính thức ra mắt để cung cấp cho các nhà phát triển các công cụ nhằm bảo vệ các ứng dụng AI tổng quát trong doanh nghiệp. Với cơ sở khách hàng bao gồm các công ty Fortune 500 và các nhà cung cấp LLM hàng đầu, công ty từ lâu đã trở thành nguồn tài nguyên phù hợp cho các nhà phát triển muốn xây dựng và triển khai các hệ thống AI an toàn. Lakera hiện có quyền truy cập vào trí thông minh về mối đe dọa dựa trên AI hàng đầu trong ngành, cho phép các nhà phát triển nhanh chóng bảo vệ các ứng dụng AI tổng hợp mà họ đang phát triển.

Những người đồng sáng lập Lakera, David Haber, Matthias Kraft và Mateo Rojas-Carulla cho biết họ đã xác định được khoảng trống trên thị trường về các giải pháp bảo mật doanh nghiệp có thể giải quyết các nhu cầu riêng biệt của AI. Sau 10 năm phát triển hệ thống máy học cho lĩnh vực hàng không vũ trụ và y tế, chúng tôi đã ra mắt Lakera để giải quyết nhu cầu này. Để đáp ứng nhu cầu cấp thiết về một giải pháp có thể bảo vệ LLM trong môi trường sản xuất, công ty đã phát hành phiên bản beta của sản phẩm mới nhất của mình, Lakera Guard, vào tháng 8 năm 2023. Kể từ đó, Lakera Guard đã cho phép hàng nghìn nhà phát triển trên khắp thế giới bắt đầu phát triển các ứng dụng AI một cách an toàn.

Lakera Guard tận dụng những hiểu biết sâu sắc từ cộng đồng từ trò chơi giáo dục AI lan truyền Gandalf của công ty, cũng như cơ sở dữ liệu độc quyền tích hợp cơ sở dữ liệu nguồn mở và nghiên cứu độc quyền. Cơ sở dữ liệu này đã thu thập được gần 30 triệu điểm dữ liệu tấn công và tiếp tục tăng hơn 100.000 mục mỗi ngày. Với Lakera Guard, các nhà phát triển có thể kích hoạt dữ liệu về lỗ hổng này chỉ bằng một dòng mã và kết hợp ngay lập tức một lớp bảo mật vào các ứng dụng AI sản xuất.

Lakera Guard là bất khả tri của LLM và hiện đang ưu tiên đảm bảo các trường hợp sử dụng Hỏi & Đáp bằng cách đưa vào nhanh chóng, phát hiện và che giấu PII, kiểm duyệt nội dung và bảo vệ khỏi ảo giác. Hỗ trợ cho các trường hợp sử dụng bổ sung, bao gồm cả các đại lý LLM tự trị, được lên kế hoạch trong những tháng tới. Đầu năm nay, Lakera đã nhận được 10 triệu USD tài trợ trong vòng gọi vốn do Redalpine dẫn đầu với sự tham gia của Fly Ventures, Inovia Capital và một số nhà đầu tư thiên thần.