Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft đã phát hiện một mối đe dọa mạng mới nhắm vào các mô hình ngôn ngữ từ xa, có thể cho phép kẻ tấn công suy ra chủ đề hội thoại từ lưu lượng mạng được mã hóa. Lỗ hổng này làm dấy lên lo ngại về tính bảo mật của giao tiếp với các chatbot được hỗ trợ bởi AI, bất chấp việc sử dụng Giao thức Bảo mật Tầng Truyền tải (TLS).

Gã khổng lồ công nghệ đã thực hiện các bước chủ động để giải quyết vấn đề này, bao gồm hợp tác với nhiều nhà cung cấp khác nhau để đảm bảo tính bảo mật cho khuôn khổ mô hình ngôn ngữ của mình, vì chatbot AI ngày càng phổ biến trong các lĩnh vực nhạy cảm như chăm sóc sức khỏe và tư vấn pháp lý, nơi quyền riêng tư là tối quan trọng.

Cuộc tấn công này khai thác tính chất phát trực tuyến của các phản hồi mô hình ngôn ngữ, trong đó kích thước và thời gian gói tin có thể tiết lộ chủ đề thảo luận. Nghiên cứu của Microsoft cho thấy những manh mối tinh vi có thể cho phép kẻ tấn công xác định chủ đề cụ thể đang được thảo luận, ngay cả khi lưu lượng được mã hóa, có khả năng gây rủi ro cho người dùng đang bị giám sát bởi các chế độ đàn áp.

Để chống lại mối đe dọa này, các công ty trong ngành, bao gồm Microsoft, đã có những động thái nhất định. Cụ thể, Microsoft Azure đã giới thiệu các kỹ thuật che giấu thông tin, giúp giảm đáng kể hiệu quả của các cuộc tấn công như vậy và đảm bảo tính riêng tư cho các cuộc trò chuyện giữa người dùng và AI. Nỗ lực chung này phản ánh cam kết của ngành AI trong việc duy trì niềm tin và quyền riêng tư của người dùng.