Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Kiteworks, nhà cung cấp giải pháp tuân thủ và quyền riêng tư dữ liệu hàng đầu, đã phát triển một nền tảng giải quyết trực tiếp vấn đề xử lý thông tin nhạy cảm khi sử dụng các công cụ trong mô hình ngôn ngữ quy mô lớn (LLM) được xây dựng bằng AI tổng hợp.
Trong môi trường kỹ thuật số ngày nay, việc sử dụng các công cụ mô hình ngôn ngữ lớn (LLM) được xây dựng trên trí tuệ nhân tạo tổng quát (AI) ngày càng tăng. Một trong những rủi ro chính liên quan đến AI sáng tạo là khả năng lạm dụng quyền sở hữu trí tuệ (IP) và thông tin nhận dạng cá nhân (PII). Các công ty ngày càng lo ngại về việc IP của họ được sử dụng như một phần của bộ đào tạo cho các mô hình AI hoặc được sử dụng để cung cấp cho những người dùng khác. Tương tự, việc sử dụng PII và dữ liệu cá nhân nhạy cảm khác trong các công cụ AI làm dấy lên lo ngại về luật bảo mật dữ liệu. Ngoài ra, các tác nhân độc hại có thể khai thác các công cụ AI tổng hợp để phát triển các cuộc tấn công và khai thác lỗ hổng.
Nội dung nhạy cảm có nguy cơ bao gồm dữ liệu đào tạo, dữ liệu cơ sở kiến ​​thức và các tương tác chatbot nhạy cảm. Nhiều tổ chức coi rủi ro này là nghiêm trọng và đang đưa ra hoặc xem xét việc cấm các ứng dụng AI có tính sáng tạo tại nơi làm việc. Kiteworks cung cấp một giải pháp tốt hơn.
Các nghiên cứu gần đây đã chỉ ra rằng có nguy cơ đáng kể về việc nội dung nhạy cảm bị rò rỉ sang các công cụ AI LLM tổng hợp. Nhân viên thường xuyên đăng dữ liệu của công ty lên các công cụ này và 1/4 dữ liệu đó được coi là nhạy cảm. Nhân viên sử dụng các công cụ AI LLM tổng hợp trung bình 36 lần một ngày, thường bao gồm cả việc dán dữ liệu. Các loại thông tin nhạy cảm chính được nhập vào các công cụ này bao gồm dữ liệu nội bộ doanh nghiệp, mã nguồn, PII và dữ liệu khách hàng.
Để giảm thiểu những rủi ro này, các tổ chức cần thực hiện các chính sách và biện pháp kiểm soát rủi ro dựa trên nội dung. Kiteworks cung cấp giải pháp toàn diện cho các tổ chức để theo dõi và kiểm soát thông tin nhạy cảm, đồng thời ngăn thông tin đó tiếp xúc với các LLM AI tổng hợp. Kiteworks cho phép doanh nghiệp triển khai các chính sách không tin cậy được xác định theo nội dung, sử dụng quản lý quyền kỹ thuật số (DRM) chỉ xem và tận dụng DRM thế hệ tiếp theo để cộng tác.
Nền tảng của Kiteworks cho phép doanh nghiệp xác định và quản lý các chính sách truy cập cũng như kiểm soát nội dung nhạy cảm. Ví dụ: hình mờ có thể được áp dụng để cảnh báo người dùng rằng không nên sử dụng một số nội dung nhất định trong AI LLM được tạo. Ngoài ra, giải pháp DRM của Kiteworks cấm sao chép nội dung cục bộ, điều này ngăn cản việc trích xuất hoặc tải nội dung đó lên Generative AI LLM.