Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

AI có thể theo dõi đã công bố chương trình truy cập sớm cho các khả năng bảo mật API AI tổng quát mới nhằm giải quyết các rủi ro an ninh mạng mới nổi liên quan đến việc sử dụng mô hình ngôn ngữ quy mô lớn (LLM) trong các ứng dụng quan trọng. Những nỗ lực của công ty nhằm mục đích bảo vệ các API hỗ trợ tương tác giữa LLM, dịch vụ và người dùng dễ bị tấn công khai thác các vấn đề cụ thể về AI như chèn nhanh và rò rỉ dữ liệu.

Sản phẩm mới nhất của công ty tăng cường nền tảng bảo mật API bằng cách giới thiệu một bộ công cụ được thiết kế để bảo vệ các ứng dụng kết hợp AI tổng hợp. Các công cụ này bao gồm một bảng điều khiển chuyên dụng để giám sát tính bảo mật của các API AI tổng hợp, khám phá và lập danh mục toàn diện các API này, kiểm tra lỗ hổng tùy chỉnh của API LLM, v.v. Ngoài ra, nền tảng này còn cung cấp cơ chế giám sát lưu lượng API theo thời gian thực để ngăn chặn rò rỉ dữ liệu nhạy cảm.

Sanjay Nagaraj, đồng sáng lập và CTO của Traceable AI, nhấn mạnh tầm quan trọng của việc bảo mật các ứng dụng do LLM cung cấp trong các tổ chức hiện đại. Ông tin rằng các tính năng bảo mật mới sẽ cho phép các doanh nghiệp tận dụng công nghệ AI trong khi vẫn duy trì hệ sinh thái API an toàn. Những tính năng này được phát triển với sự hợp tác của công ty và khách hàng của công ty, nhằm mục đích giúp các tổ chức tự tin giải quyết các thách thức bảo mật đặc biệt của các ứng dụng do AI điều khiển.

AI có thể theo dõi nổi bật là nền tảng bảo mật API đầu tiên cung cấp bảo mật toàn diện cho các API AI tổng quát. Được hỗ trợ bởi công cụ OmniTrace™, nền tảng này sẽ xem xét kỹ lưỡng mọi giao dịch API và cung cấp bối cảnh cần thiết để phát hiện và ứng phó mối đe dọa một cách hiệu quả. Khả năng này giúp AI có thể theo dõi trở thành công ty dẫn đầu thị trường trong việc xác định và giảm thiểu các mối đe dọa bảo mật liên quan đến LLM, chẳng hạn như tính năng chèn nhanh.