Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Khi các doanh nghiệp ngày càng triển khai các mô hình ngôn ngữ lớn (LLM) trong các hệ thống tác nhân, nhu cầu về các biện pháp an toàn mạnh mẽ ngày càng tăng. Các hệ thống AI với khả năng tự động suy luận và hành vi này mang đến những rủi ro mới như sai lệch mục tiêu và thiếu sự giám sát của con người. Bản chất năng động của môi trường pháp lý càng làm tình hình trở nên phức tạp hơn, làm tăng nguy cơ trách nhiệm pháp lý và các vấn đề về lòng tin. Để giải quyết những thách thức này, một phương pháp tiếp cận an toàn AI toàn diện đã được giới thiệu, nhằm mục đích nâng cao vòng đời AI với các tập dữ liệu mở, phương pháp đánh giá và công thức sau đào tạo.

Các công thức an toàn được thiết kế để giúp các nhà quản lý chính sách, chủ sở hữu rủi ro và các nhà nghiên cứu AI chủ động quản lý các mối đe dọa an toàn và thực thi các chính sách của công ty. Công thức này bao gồm NVIDIA NeMo Guardrails, một công cụ giảm thiểu rủi ro thời gian suy luận như lời nhắc đối kháng và vi phạm compliance thủ. Phương pháp tiếp cận có cấu trúc này cho phép các tổ chức tự tin mở rộng quy mô ứng dụng AI trong khi vẫn compliance các tiêu chuẩn an toàn và compliance nội bộ và bên ngoài.

Các biện pháp an toàn truyền thống thường không theo kịp những rủi ro đang phát triển trong quy trình làm việc AI dựa trên tác nhân. Công thức An toàn (Safety Recipes) mới được giới thiệu cung cấp một khuôn khổ cấp doanh nghiệp để xây dựng, triển khai và vận hành các hệ thống AI tuân thủ các yêu cầu về độ tin cậy và chính sách. Công thức này cung cấp một bộ công cụ đánh giá, bộ dữ liệu an toàn và các kỹ thuật giảm thiểu rủi ro để đảm bảo độ tin cậy và tính minh bạch của các hệ thống AI. Điều này bao gồm việc giải quyết các thách thức về kiểm duyệt nội dung và bảo vệ chống lại các mối đe dọa bảo mật như các cuộc tấn công chèn mã độc nhanh chóng.

Công thức An toàn đã chứng minh hiệu quả trong các bài kiểm tra chuẩn mực hàng đầu ngành, cho thấy những cải thiện đáng kể về an toàn nội dung và bảo mật sản phẩm. Các tổ chức áp dụng công thức này đã chứng kiến mức tăng 6% về an toàn nội dung và 7% về khả năng phục hồi bảo mật. Những cải tiến này rất cần thiết cho việc vận hành các mô hình mở và triển khai có trách nhiệm các hệ thống AI dựa trên tác nhân cấp doanh nghiệp. Các công thức này có thể tải xuống và triển khai trên đám mây, biến chúng thành một công cụ thiết thực giúp các tổ chức tăng cường an toàn cho hệ thống AI của mình.