Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft vừa công bố phát hành ExCyTIn-Bench, một công cụ nguồn mở nhằm nâng cao hiệu quả đánh giá hệ thống AI trong an ninh mạng. Khác với các công cụ đánh giá truyền thống, công cụ này tập trung vào khả năng điều hướng và giải quyết các tình huống đe dọa mạng phức tạp của AI trong môi trường SOC mô phỏng trên Microsoft Azure . Công cụ này tận dụng lượng dữ liệu khổng lồ từ 57 bảng nhật ký để phản ánh tính phức tạp và khó lường của các sự cố và hoạt động bảo mật trong thế giới thực.

"Được kỳ vọng sẽ trở thành một tài sản thiết yếu cho các CISO, lãnh đạo CNTT và người mua công nghệ, ExCyTIn-Bench đo lường một cách khách quan khả năng điều tra các cuộc tấn công mạng tiên tiến của AI. Bằng cách tích hợp khuôn khổ chuẩn mực này, Microsoft đang củng cố năng lực bảo mật AI của mình để đảm bảo khả năng phục hồi trước các mối đe dọa mạng thực sự. Công cụ này cũng hoạt động với nhiều sản phẩm bảo mật khác nhau để tinh chỉnh năng lực AI và cho phép chủ sở hữu sản phẩm đưa ra quyết định sáng suốt dựa trên hiệu suất và chi phí của mô hình."

Công cụ đánh giá này độc đáo ở chỗ nó sử dụng một phương pháp luận độc đáo để tạo ra các câu hỏi và câu trả lời từ biểu đồ điều tra mối đe dọa, thay vì các câu hỏi trắc nghiệm thường dựa vào phỏng đoán. Cách tiếp cận này cho phép phân tích kỹ lưỡng hơn về chiến lược suy luận của tác nhân AI. ExCyTIn-Bench triển khai một tác nhân AI trong môi trường Azure SOC động, nơi nó tương tác với dữ liệu trực tiếp và lập kế hoạch điều tra nhiều giai đoạn để đánh giá quy trình suy luận toàn diện của tác nhân.

ExCyTIn-Bench không chỉ đánh giá khả năng xử lý các tác vụ bảo mật phức tạp của các tác nhân AI mà còn cung cấp các số liệu minh bạch, từng bước cho từng hành động điều tra. Mức độ chi tiết này giúp các tổ chức hiểu rõ quy trình ra quyết định của các mô hình AI, yếu tố then chốt cho sự tin cậy và compliance. Điểm chuẩn này được thiết kế cho sự đổi mới hợp tác, cho phép các nhà nghiên cứu và nhà cung cấp thử nghiệm và cải thiện các mô hình AI, từ đó thúc đẩy những tiến bộ trong phòng thủ mạng tự động. Các tính năng sắp tới sẽ bao gồm các điểm chuẩn được cá nhân hóa cho các mối đe dọa cụ thể của khách hàng. Các đánh giá gần đây cho thấy các mô hình AI hiện đại, đặc biệt là những mô hình có khả năng suy luận tiên tiến, thể hiện những cải tiến đáng kể về hiệu suất, nhấn mạnh tầm quan trọng của suy luận tiên tiến trong các cuộc điều tra bảo mật phức tạp.