Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Protect AI gần đây đã công bố việc mua lại Laiyer AI, báo hiệu một bước đi chiến lược nhằm tăng cường các dịch vụ bảo mật AI và ML của công ty. Với việc mua lại này, Protect AI giới thiệu phiên bản thương mại của LLM Guard của Laiyer AI, một dự án nguồn mở được thiết kế để bảo vệ các mô hình ngôn ngữ lớn (LLM) khỏi nhiều mối đe dọa và vấn đề tuân thủ. LLM Guard, hiện có thể truy cập miễn phí, sẽ được tích hợp vào nền tảng Protect AI với chức năng bổ sung.

Công ty nhấn mạnh rằng thị trường LLM đang phát triển nhanh chóng do việc sử dụng ngày càng nhiều các công nghệ AI như GPT-4 của OpenAI trên nhiều ngành. Các nhà phân tích dự đoán thị trường sẽ tăng từ 11,3 tỷ USD vào năm 2023 lên 51,8 tỷ USD vào năm 2028. Bất chấp tiềm năng của nó, những lo ngại về an ninh và lạm dụng là rào cản đối với việc áp dụng rộng rãi của các công ty lớn.

Protect AI đã tham khảo Top 10 ứng dụng LLM của OWASP, trong đó nêu ra các rủi ro bảo mật chính khi triển khai LLM. Trong số những rủi ro này, các lỗ hổng tiêm nhắc kịp thời gây ra mối đe dọa đáng kể, cho phép kẻ tấn công thao túng LLM và gây ra vi phạm dữ liệu hoặc ảnh hưởng đến việc ra quyết định. Công ty nhấn mạnh tầm quan trọng của việc giải quyết các lỗ hổng này để đảm bảo tính bảo mật và tính toàn vẹn của doanh nghiệp, đặc biệt là trong bối cảnh các quy định sắp có liên quan đến LLM.

Công ty cũng ca ngợi cách tiếp cận minh bạch của LLM Guard đối với vấn đề bảo mật, đối lập với các giải pháp nguồn đóng chưa được thử nghiệm tốt trên thị trường. Các khả năng của LLM Guard, chẳng hạn như phát hiện và vệ sinh đầu vào và đầu ra từ LLM, rất quan trọng để ngăn ngừa các rủi ro như rò rỉ dữ liệu cá nhân. Khả năng tương thích với các quy trình bảo mật hiện có và các công cụ quan sát giúp Laiyer AI trở thành công ty dẫn đầu trong việc cung cấp các giải pháp bảo mật mạnh mẽ cho các ứng dụng LLM.

Cuối cùng, Protect AI nêu bật tính hiệu quả và việc áp dụng rộng rãi LLM Guard, lưu ý rằng số lượt tải xuống đáng kể và độ trễ suy luận CPU giảm cho phép tôi sử dụng tài nguyên máy tính hiệu quả hơn về mặt chi phí. Việc tích hợp các công cụ của Laiyer AI vào nền tảng của Protect AI sẽ củng cố vị thế của công ty với tư cách là nhà cung cấp hàng đầu các giải pháp AI và ML an toàn và hiệu quả. Các bên quan tâm có thể tìm hiểu thêm về LLM Guard bằng cách truy cập trang web Protect AI.