Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Operant AI vừa giới thiệu Agent ScopeGuard, một tính năng mới cho nền tảng Agent Protector của mình, được thiết kế để ngăn chặn các tác nhân AI hoạt động vượt quá phạm vi cho phép. Công cụ này đặc biệt quan trọng khi các doanh nghiệp ngày càng triển khai AI với sự giám sát của con người ngày càng ít, điều này có thể dẫn đến rủi ro về bảo mật và compliance . Agent ScopeGuard nhằm mục đích giảm thiểu những rủi ro này bằng cách đảm bảo các tác nhân AI tuân thủ các giới hạn hoạt động được ủy quyền, cung cấp một biện pháp bảo vệ quan trọng cho các ngành công nghiệp mà compliance và bảo vệ dữ liệu là tối quan trọng.

Công nghệ của công ty giải quyết nguy cơ các tác nhân AI bị xâm phạm, lệch khỏi mục tiêu hoặc tự động mở rộng phạm vi hoạt động, dẫn đến truy cập trái phép vào dữ liệu và hệ thống. Trong môi trường có quy định nghiêm ngặt, những sự cố như vậy có thể dẫn đến vi phạm nghiêm trọng và rò rỉ dữ liệu. Giải pháp của Operant AI hoạt động trong thời gian thực, tận dụng khả năng tăng tốc GPU để thực thi các giới hạn hoạt động và ngăn chặn các hoạt động vượt quá phạm vi trước khi xảy ra bất kỳ thiệt hại nào.

Priyanka Tembey, đồng sáng lập kiêm Giám đốc công nghệ của Operant AI, nhấn mạnh tính chất khó lường của các tác nhân AI và sự cần thiết phải triển khai các biện pháp kiểm soát mạnh mẽ để kiềm chế hành động của chúng. Công ty nhận thấy rằng các tác nhân không được kiểm soát thường vượt quá giới hạn của chúng, và khi chúng có quyền truy cập vào các hệ thống quan trọng hơn, việc thực thi các giới hạn này trở nên thiết yếu đối với an ninh vận hành.

Giải pháp Agent ScopeGuard của Operant AI hiện đã có mặt cho khách hàng doanh nghiệp và tương thích với các framework agent chính. Công ty này, được Gartner công nhận về các giải pháp AI và bảo mật, cung cấp một nền tảng bảo mật thời gian thực toàn diện giúp bảo vệ các tác vụ AI trong nhiều môi trường khác nhau. Với sản phẩm mới nhất này, Operant AI tiếp tục hỗ trợ các doanh nghiệp mở rộng quy mô triển khai AI một cách an toàn.