Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Akto đã công bố cải tiến mới nhất về bảo mật API, một giải pháp thử nghiệm bảo mật GenAI mới được thiết kế để bảo vệ tốt hơn các mô hình AI tổng quát và mô hình học ngôn ngữ (LLM) như ChatGPT. Khi việc áp dụng công nghệ AI ngày càng tăng, với ước tính khoảng 77% tổ chức đang sử dụng hoặc xem xét AI, việc đảm bảo quy trình làm việc do AI điều khiển ngày càng trở nên quan trọng. Giải pháp của Akto nhằm mục đích giải quyết các lỗ hổng vốn có trong hệ thống GenAI, đặc biệt là các lỗ hổng liên quan đến API hỗ trợ trao đổi dữ liệu với LLM.

Vì một tổ chức trung bình sử dụng khoảng 10 mô hình GenAI nên khả năng vi phạm an ninh thông qua các hệ thống này là rất lớn. Các LLM thường xử lý thông tin nhạy cảm thông qua API dễ bị xâm nhập trái phép, có thể thay đổi đầu ra, các cuộc tấn công từ chối dịch vụ (DoS) làm gián đoạn dịch vụ và làm quá tải đầu ra LLM mà không xác thực đúng cách, có nguy cơ gặp phải nhiều mối đe dọa khác nhau, bao gồm cả rò rỉ dữ liệu do. sự phụ thuộc vào Giải pháp của Akto nhằm mục đích giảm thiểu những rủi ro này bằng cách cung cấp khung bảo mật toàn diện cho các mô hình GenAI.

Các sự cố gần đây như sự cố ngừng hoạt động của ChatGPT của OpenAI do lỗ hổng thư viện vào tháng 3 năm 2023 và việc phát hiện ra lỗ hổng nghiêm trọng trong LLM phổ biến vào tháng 1 năm 2024 đã nêu bật tính cấp bách của các biện pháp bảo mật mạnh mẽ mà tôi đang thực hiện. Giải pháp kiểm tra bảo mật GenAI của Akto tận dụng các thuật toán tiên tiến và hơn 60 trường hợp kiểm thử chuyên biệt để xác định và giải quyết các lỗ hổng, mang lại cho các tổ chức một cách tiếp cận chủ động để bảo mật các ứng dụng AI của họ.

Tầm quan trọng của bảo mật GenAI còn được nhấn mạnh hơn nữa trong cuộc khảo sát của Gartner vào tháng 9 năm 2023, cho thấy 34% tổ chức đã sử dụng hoặc triển khai các công cụ bảo mật ứng dụng AI. Người sáng lập và Giám đốc điều hành Akto Ankita sẽ công bố các giải pháp bảo mật mới tại Hội nghị thượng đỉnh API Austin 2024 sắp tới và nêu bật vai trò của công ty trong việc đảm bảo tương lai của công nghệ AI. Cam kết của Akto đối với sự đổi mới và bảo mật đã giúp họ trở thành người dẫn đầu trong lĩnh vực này, cung cấp cho các tổ chức các công cụ để tự tin tích hợp GenAI vào hoạt động của họ.