Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

MITER và Microsoft đã nâng cao MITER ATLAS™, một cơ sở kiến ​​thức cộng đồng dành cho các chuyên gia bảo mật và nhà phát triển AI, tập trung vào AI tổng hợp dựa trên dữ liệu. Bản cập nhật này giải quyết các lỗ hổng cụ thể cho các hệ thống kết hợp AI tổng hợp và các mô hình ngôn ngữ quy mô lớn (LLM) như ChatGPT và Bard. Mục tiêu là đưa ra lời giải thích thực tế về số lượng ngày càng tăng và sự đa dạng của các vectơ tấn công trong các hệ thống hỗ trợ LLM đang nhanh chóng được người tiêu dùng và tổ chức áp dụng.

Các cải tiến của MITER ATLAS, viết tắt của Cảnh quan mối đe dọa đối nghịch cho hệ thống trí tuệ nhân tạo, được thiết kế để tăng cường khả năng phòng thủ trước các cuộc tấn công độc hại trên nhiều ứng dụng AI, bao gồm chăm sóc sức khỏe, tài chính và vận tải. Cơ sở kiến ​​thức có thể truy cập được trên toàn cầu và dựa trên quan sát các cuộc tấn công thực tế cũng như các minh chứng thực tế của các đội đỏ và nhóm bảo mật AI.

Dự án ATLAS là sự hợp tác toàn cầu với sự tham gia của hơn 100 tổ chức chính phủ, học thuật và công nghiệp. Là một phần của quan hệ đối tác này, MITER và Microsoft đã mở rộng ATLAS để phát triển các công cụ dựa trên khuôn khổ nhằm hỗ trợ ngành công nghiệp, chính phủ và giới học thuật trong việc tăng cường bảo mật cho các hệ thống hỗ trợ AI.

Các chiến thuật và kỹ thuật ATLAS mới dựa trên các nghiên cứu điển hình về các sự cố được người dùng và nhà nghiên cứu bảo mật phát hiện vào năm 2023. Điều này bao gồm rò rỉ quyền riêng tư trong plugin ChatGPT, trình diễn cách sửa đổi LLM được đào tạo trước để trả về thông tin sai sự thật. Lỗ hổng trong MathGPT có thể cho phép kẻ tấn công truy cập vào các biến môi trường của hệ thống máy chủ và khóa API GPT-3 của ứng dụng.