Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Công ty datagusto (Tokyo) đã ra mắt "datagusto," một nền tảng an toàn AI giúp ngăn chặn các hành vi không mong muốn của các tác nhân AI. Công nghệ mới này thay thế các biện pháp bảo vệ tĩnh truyền thống và hỗ trợ hoạt động an toàn của các tác nhân AI.

Công ty đã phát triển công nghệ để phát hiện và giảm thiểu rủi ro do các tác nhân AI gây ra trong thời gian thực. Trong một thử nghiệm xác thực sử dụng chuẩn đánh giá an toàn "PropensityBench," công nghệ này đã chứng minh khả năng ngăn chặn 100% các sự cố mà các phương pháp thông thường không thể ngăn chặn được.

Với số lượng tác nhân AI ngày càng tăng, các công ty đang phải đối mặt với rủi ro về an toàn. datagusto sử dụng phương pháp phát hiện hành vi trong thời gian thực và tạo ra "các biện pháp bảo vệ động" để giảm thiểu rủi ro. Điều này giúp giảm thiểu nỗ lực vận hành và cho phép hoạt động an toàn.

Trong tương lai, công ty dự định phát triển chức năng để đánh giá và chấm điểm độ tin cậy của các tác nhân AI, nhằm tạo ra cơ sở hạ tầng hỗ trợ niềm tin trong một xã hội đa tác nhân. Công ty cũng đang tìm kiếm các đối tác để triển khai công nghệ này.