Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Tel Aviv, Israel – Backslash Security đã công bố những phát hiện của nhóm nghiên cứu của mình liên quan đến các lỗ hổng bảo mật vốn có trong mã do AI tạo ra. Bài tập sử dụng GPT-4 này nhằm mục đích nêu bật những rủi ro do sử dụng mã đó trong quá trình phát triển, đặc biệt là liên quan đến việc tích hợp phần mềm nguồn mở (OSS). Các phát hiện này nêu bật khả năng các đề xuất gói OSS đã lỗi thời và sự xuất hiện của các gói "ảo" mà các nhà phát triển có thể đưa nhầm vào dự án của họ.

Cuộc khảo sát cho thấy một số lượng đáng kể các tổ chức đang áp dụng trợ lý mã AI. Mặc dù trợ lý mã AI tăng tốc độ phát triển nhưng chúng cũng đặt ra nhiều thách thức về bảo mật. Nền tảng của Backslash Security giải quyết những vấn đề này bằng các tính năng nâng cao như phân tích khả năng tiếp cận và khả năng phát hiện các gói ảo không được khai báo trong tệp kê khai nhưng có thể ảnh hưởng đến cơ sở mã của bạn.

Mô phỏng của nhóm nghiên cứu Backslash cho thấy nhiều mô hình ngôn ngữ được đào tạo trên các bộ dữ liệu tĩnh không phản ánh các bản cập nhật và bản vá mới nhất, điều này có thể dẫn đến mã do AI tạo ra gợi ý về các gói OSS dễ bị tấn công. Điều này có thể dẫn đến các ứng dụng mới kết hợp các phiên bản phần mềm cũ hơn, bị xâm phạm. Ngoài ra, các đề xuất mã do AI tạo không nhất quán có thể tạo ra cảm giác an toàn sai lầm giữa các nhà phát triển, có khả năng làm tăng rủi ro bảo mật trong quá trình triển khai mã thông thường.

Backslash Security nhấn mạnh sự cần thiết của các biện pháp bảo mật mạnh mẽ khi đối mặt với các cách viết mã đang phát triển nhanh chóng. Nền tảng của công ty được thiết kế để giúp các nhóm bảo mật ứng dụng và sản phẩm xác định và ưu tiên các mối đe dọa thực sự bằng cách đánh giá khả năng tiếp cận và khai thác các lỗ hổng OSS hiện có. Shahar Man, Giám đốc điều hành của Backslash Security, nhấn mạnh tầm quan trọng của việc bảo vệ mã nguồn mở trước những thách thức mới do mã do AI tạo ra. Các bên quan tâm được mời trực tiếp trải nghiệm khả năng của nền tảng thông qua bản demo Backslash Security.