Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Anthropic đã đăng một bài báo có tên “Thực thi an ninh AI”. Các điểm chính của bài viết như sau.

Khi các mô hình AI tiên tiến phát triển, tính bảo mật của chúng trở nên tối quan trọng. Để đảm bảo an toàn cho các hệ thống này, bảo mật mô hình AI của Anthropic áp dụng một số biện pháp bảo vệ nhằm thúc đẩy các hoạt động an ninh mạng trong toàn ngành. Đặc biệt, nó khuyến nghị nhiều phê duyệt đối với hệ thống kiểm soát của hai bên đối với công nghệ AI và thiết kế bảo mật của cơ sở hạ tầng quan trọng về AI.

Chúng tôi cũng đề xuất áp dụng Khung phát triển phần mềm bảo mật (SSDF) và SLSA của NIST để phát triển mô hình AI. Anthropic đã áp dụng những phương pháp này và khuyến khích các phòng thí nghiệm AI khác làm điều tương tự.

Ngoài ra, nó coi lĩnh vực AI tiên tiến là cơ sở hạ tầng quan trọng và ủng hộ hợp tác công tư trong việc bảo vệ các công nghệ AI. Chúng tôi nhấn mạnh tầm quan trọng của việc phát triển AI an toàn và cam kết phát triển AI an toàn và có trách nhiệm.