Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố một bộ dịch vụ vi mô NIM mới được thiết kế để tăng cường tính an toàn và độ tin cậy của các tác nhân AI. Các dịch vụ vi mô này, một phần của bộ sưu tập NVIDIA NeMo Guardrails, nhằm mục đích giải quyết nhu cầu quan trọng về độ tin cậy và compliance trong các ứng dụng AI. Bằng cách cung cấp các công cụ cải thiện độ chính xác và khả năng mở rộng, NVIDIA đang cho phép các công ty tạo ra các ứng dụng AI tạo ra an toàn và tuân thủ về mặt đạo đức.

Nền tảng NeMo Guardrails đóng vai trò trung tâm trong việc quản lý và tích hợp các rào chắn AI, đặc biệt là trong các ứng dụng mô hình ngôn ngữ quy mô lớn. Nền tảng này hiện đang được các công ty hàng đầu trong ngành như Amdocs, Cerence AI và Lowe's sử dụng để đảm bảo các ứng dụng AI được bảo vệ khỏi các rủi ro tiềm ẩn. Các dịch vụ vi mô NIM cho phép các nhà phát triển xây dựng các tác nhân AI không chỉ an toàn mà còn có khả năng cung cấp các phản hồi phù hợp theo ngữ cảnh trong các hướng dẫn cụ thể.

Một trong những dịch vụ siêu nhỏ mới được giới thiệu tập trung vào tính an toàn của nội dung và được đào tạo bằng Bộ dữ liệu an toàn nội dung Aegis, một bộ dữ liệu chất lượng cao, có chú thích của con người, có sẵn công khai. Dịch vụ siêu nhỏ này giúp kiểm duyệt nội dung do AI tạo ra để ngăn chặn đầu ra thiên vị hoặc có hại. NVIDIA cũng đã phát hành các dịch vụ siêu nhỏ để kiểm soát chủ đề và phát hiện bẻ khóa, giúp duy trì tính toàn vẹn của các tác nhân AI trong nhiều ngành.

Cam kết của NVIDIA trong việc bảo mật AI cũng mở rộng ra cộng đồng nguồn mở, nơi các nhà phát triển có thể sử dụng NeMo Guardrails để điều phối nhiều chính sách phần mềm AI. Khung này giúp tạo ra các hệ thống AI có thể triển khai ở quy mô lớn mà không ảnh hưởng đến tính an toàn hoặc hiệu suất. Bằng cách tích hợp các công cụ này, các công ty như Amdocs, Cerence AI và Lowe's đang nâng cao khả năng dịch vụ khách hàng của mình bằng cách cung cấp các tương tác an toàn và đáng tin cậy hơn do AI điều khiển.