Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft đã công bố hợp tác với Thorn và All Tech is Human để tăng cường các biện pháp an toàn cho công nghệ AI tổng hợp nhằm bảo vệ trẻ em khỏi bị bóc lột tình dục. Gã khổng lồ công nghệ đã tích hợp các nguyên tắc tập trung vào việc chủ động ngăn chặn việc lạm dụng AI, điều này phù hợp với chiến lược hiện có của họ nhằm chống lại nội dung độc hại do AI tạo ra. Microsoft nhấn mạnh tầm quan trọng của một kiến ​​trúc an toàn mạnh mẽ và nhu cầu hợp tác trong toàn ngành, bao gồm quan hệ đối tác với các tổ chức như Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột và Liên minh Toàn cầu WeProtect.

Để tăng cường sự an toàn cho trẻ em, Microsoft đã cam kết kết hợp một số nguyên tắc nhất định vào quá trình phát triển, triển khai và bảo trì các mô hình AI sáng tạo. Công ty đang nỗ lực đảm bảo các mô hình này được đào tạo để chủ động giải quyết các rủi ro về an toàn cho trẻ em và được đánh giá về độ an toàn trước khi đưa ra thị trường. Microsoft cũng có kế hoạch duy trì cảnh giác trên nền tảng của mình và chủ động ứng phó với những rủi ro mới nổi về an toàn cho trẻ em. Sáng kiến ​​này là một nỗ lực quan trọng nhằm ngăn chặn việc sử dụng công nghệ AI để tạo và phân phối tài liệu lạm dụng tình dục trẻ em (CSAM) và các nội dung có hại khác.

Những nỗ lực của Microsoft còn mở rộng sang việc báo cáo minh bạch tiến độ và hợp tác với các nhà hoạch định chính sách để hỗ trợ các khung pháp lý nhằm thúc đẩy sự đổi mới và an toàn của AI. Công ty cam kết chia sẻ các phương pháp hay nhất và hợp tác với Viện An toàn AI để nâng cao các biện pháp an toàn. Bằng cách tập trung vào phát triển các giải pháp xuất xứ phương tiện tiên tiến và nâng cao trách nhiệm của nhà phát triển, Microsoft đặt mục tiêu tạo ra một môi trường trực tuyến an toàn hơn cho trẻ em và chống lại việc lạm dụng công nghệ AI một cách thù địch. nước xốt: