Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Google(California) vừa công bố thông tin về các xu hướng mới nhất trong việc sử dụng AI độc hại. Theo Sandra Joyce, Phó Chủ tịch phụ trách Tình báo Mối đe dọa của Google, các tác nhân đe dọa được chính phủ tài trợ và tội phạm mạng đã và đang sử dụng AI để thử nghiệm và triển khai phần mềm độc hại mới.

Theo bài đăng trên blog chính thức Google Cloud, kẻ tấn công đã không chỉ sử dụng AI để cải thiện năng suất mà hiện đang sử dụng phần mềm độc hại hỗ trợ AI có tên là PROMPTSTEAL, sử dụng các mô hình ngôn ngữ quy mô lớn để nhận lệnh trong khi tự sửa đổi để tránh bị phát hiện.

Google đang thực hiện các bước chủ động để chống lại việc sử dụng sai mục đích AI, vô hiệu hóa các dự án và tài khoản liên quan, và GTIG đã công bố một báo cáo về việc sử dụng sai mục đích các công cụ AI, tiết lộ cách các tác nhân đe dọa đang tích hợp AI trong suốt vòng đời tấn công.

Ngoài ra, Google đang theo dõi sự phát triển của các thị trường tội phạm mạng dành cho các công cụ AI, lưu ý sự gia tăng trong việc cung cấp các công cụ AI bất hợp pháp, điều mà họ tin là sẽ làm giảm rào cản gia nhập đối với các tác nhân đe dọa ít phức tạp về mặt kỹ thuật.

Google cam kết xây dựng AI có trách nhiệm và tăng cường bảo vệ chống lại việc lạm dụng. Công ty áp dụng những bài học kinh nghiệm vào quá trình phát triển sản phẩm để cải thiện tính an toàn và bảo mật của AI, đồng thời chia sẻ các kết quả nghiên cứu để hỗ trợ bảo vệ toàn hệ sinh thái. Bạn có thể tìm hiểu thêm chi tiết trong báo cáo GTIG AI Threat Tracker.