Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

GMO Cyber ​​​​Security của Ierae (Shibuya-ku, Tokyo) và Viện nghiên cứu Mitsubishi DCS (Shinagawa-ku, Tokyo) đã công bố sự hợp tác nhằm tăng cường bảo mật cho AI được tạo ra. Từ ngày 28 tháng 11 năm 2024, công ty sẽ ra mắt dịch vụ ``chẩn đoán bảo mật hệ thống AI được tạo''. Dịch vụ này sử dụng "Chẩn đoán bảo mật LLM" do GMO Cyber ​​​​Security của Ierae phát triển để đánh giá rủi ro của các hệ thống sử dụng LLM như GPT.

Với sự lan rộng của AI sáng tạo, những rủi ro bảo mật mới đang xuất hiện. Viện nghiên cứu Mitsubishi DCS có kiến ​​thức về các biện pháp bảo mật trong ngành tài chính và GMO Cyber ​​​​Security của Ierae có chuyên môn về tin tặc trắng. Thông qua hợp tác giữa hai công ty, chúng tôi sẽ xác định các mối đe dọa đối với các hệ thống được trang bị AI và đề xuất các biện pháp đối phó.

"Chẩn đoán bảo mật hệ thống AI được tạo" phát hiện các rủi ro bảo mật bằng cách tiến hành các cuộc tấn công giả bằng cách sử dụng lời nhắc thù địch trên LLM như GPT-3.5 và GPT-4. Thông tin chi tiết có thể được tìm thấy trên trang dịch vụ (https://www.dcs.co.jp/solution/ai_diagnostic/).

Trong tương lai, GMO Cyber ​​​​Security của Yerae và Viện nghiên cứu Mitsubishi DCS có kế hoạch tăng cường các biện pháp đối phó với các rủi ro bảo mật liên quan đến sự phát triển của công nghệ AI và hỗ trợ khách hàng sử dụng AI. Hơn nữa, công ty có kế hoạch khám phá sự hợp tác trong các lĩnh vực khác và mang lại sự an tâm bằng cách tăng khả năng ứng phó với các rủi ro mạng.