Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Hai năm sau khi phác thảo tầm nhìn về AI để mang lại lợi ích cho xã hội và thúc đẩy đổi mới, các công ty công nghệ hàng đầu đã báo cáo những tiến bộ đáng kể trong quá trình phát triển AI. Bản tóm tắt năm 2024 nêu bật những tiến bộ trong các mô hình AI sáng tạo và những đóng góp cho các lĩnh vực như sinh học và khoa học thần kinh. Dựa trên các nguyên tắc được thiết lập vào năm 2018 và các báo cáo minh bạch hàng năm kể từ năm 2019, tổ chức này nhấn mạnh đến cách tiếp cận có trách nhiệm đối với AI. Họ nhấn mạnh tầm quan trọng của việc liên tục cập nhật các chính sách và thông lệ để phản ánh các nhu cầu và thách thức mới nổi.

Báo cáo Progress AI có trách nhiệm thường niên lần thứ sáu của tổ chức nêu chi tiết về quản trị AI và quản lý rủi ro trong suốt vòng đời của nó. Báo cáo tập trung vào việc thiết lập các cấu trúc quản trị và đầu tư vào sự an toàn của AI cho các lần ra mắt sản phẩm AI. Báo cáo cũng nêu bật hơn 300 bài báo nghiên cứu được công bố về trách nhiệm và sự an toàn, các bản cập nhật chính sách AI và các bài học kinh nghiệm từ các cuộc tập trận của nhóm đỏ. Báo cáo nêu rõ tiến độ trong việc giảm thiểu rủi ro cho các lần ra mắt AI, bao gồm sự liên kết an toàn, quản lý bảo mật và quyền riêng tư, và cải thiện giáo dục về kiến ​​thức AI. Báo cáo cũng lưu ý rằng báo cáo hỗ trợ hệ sinh thái AI rộng lớn hơn thông qua việc tài trợ, công cụ và phát triển tiêu chuẩn.

Để ứng phó với những rủi ro đang phát triển liên quan đến các mô hình AI tiên tiến, tổ chức đã cập nhật Frontier Safety Framework. Khung này, được giới thiệu lần đầu tiên vào năm ngoái, bao gồm các giao thức để dự đoán và giảm thiểu các rủi ro tiềm ẩn. Phiên bản cập nhật bao gồm các khuyến nghị bảo mật nâng cao, các biện pháp giảm thiểu triển khai và các biện pháp ngăn ngừa rủi ro phối hợp trái phép. Khung này đã được triển khai trong các quy trình an toàn và quản trị, bao gồm cả việc đánh giá các mô hình biên giới như Gemini 2.0.

Cuối cùng, tổ chức đã công bố các sửa đổi đối với các nguyên tắc AI của mình để phản ánh sự phát triển nhanh chóng và việc sử dụng rộng rãi công nghệ AI. Các nguyên tắc được sửa đổi tập trung vào sự đổi mới táo bạo, phát triển và triển khai có trách nhiệm và tiến trình hợp tác. Tổ chức cam kết điều chỉnh nghiên cứu và ứng dụng AI theo sứ mệnh và luật pháp quốc tế của mình để đảm bảo rằng lợi ích lớn hơn rủi ro tiềm ẩn. Khi AI tiếp tục phát triển trong nhiều lĩnh vực khác nhau, tổ chức cam kết điều chỉnh cách tiếp cận của mình, nhấn mạnh tiềm năng chuyển đổi của AI và tầm quan trọng của các biện pháp bảo vệ và quản trị vì lợi ích toàn cầu.