Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Việc mở rộng hợp tác với Viện An ninh Trí tuệ Nhân tạo Vương quốc Anh (AISI) đánh dấu một bước quan trọng hướng tới việc phát triển trí tuệ nhân tạo an toàn hơn. Bản ghi nhớ hợp tác mới sẽ tập trung vào nghiên cứu an ninh và an toàn cơ bản, đảm bảo rằng các tiến bộ trong AI được phát triển với sự an toàn là ưu tiên hàng đầu vì lợi ích của tất cả mọi người.

Sự hợp tác của chúng tôi với AISI là một yếu tố quan trọng trong những nỗ lực rộng lớn hơn của chúng tôi với chính phủ Anh nhằm thúc đẩy sự phát triển của trí tuệ nhân tạo (AI) an toàn và có lợi. AI có tiềm năng tác động tích cực đến nhiều lĩnh vực, bao gồm y học, khoa học, kinh tế và các vấn đề môi trường, nhưng điều cần thiết là sự an toàn và trách nhiệm phải luôn được đặt lên hàng đầu trong quá trình phát triển của nó. Quan hệ đối tác của chúng tôi với AISI, bắt đầu từ tháng 11 năm 2023, sẽ tập trung vào việc thử nghiệm các mô hình AI tiên tiến và cung cấp kiến ​​thức về rủi ro của AI và các chiến lược giảm thiểu rủi ro cho nhiều bên liên quan.

Sự hợp tác này sẽ mở rộng ra ngoài phạm vi thử nghiệm sang nghiên cứu cơ bản rộng hơn trong nhiều lĩnh vực, bao gồm việc chia sẻ các mô hình và dữ liệu độc quyền, cùng nhau công bố các kết quả nghiên cứu và nghiên cứu chung về an ninh và an toàn, cũng như các cuộc thảo luận kỹ thuật để giải quyết các thách thức an toàn phức tạp.

Các lĩnh vực nghiên cứu trọng điểm của sự hợp tác này là giám sát quá trình suy luận của trí tuệ nhân tạo (AI), hiểu tác động xã hội và cảm xúc của AI, và đánh giá tác động của AI đối với hệ thống kinh tế. Những nỗ lực này dựa trên các nghiên cứu trước đây của Google DeepMind và sự hợp tác với AISI cùng các đối tác khác. Mục tiêu là làm sâu sắc thêm sự hiểu biết của chúng ta về các quá trình ra quyết định của hệ thống AI và cách chúng phù hợp với hạnh phúc của con người, cũng như đánh giá tác động tiềm tàng của AI đối với nền kinh tế.

Sự hợp tác này là một phần của chiến lược rộng lớn hơn nhằm tối đa hóa lợi ích của AI đồng thời giảm thiểu rủi ro. Điều này bao gồm nghiên cứu tiên tiến, đào tạo an toàn, kiểm thử mô hình nghiêm ngặt và phát triển các công cụ để hiểu và giảm thiểu rủi ro. Quản trị nội bộ, chẳng hạn như Hội đồng Trách nhiệm và An toàn của Google DeepMind, và sự hợp tác với các chuyên gia bên ngoài là rất cần thiết cho sự phát triển AI có trách nhiệm. Việc công ty tham gia Diễn đàn Mô hình Tiên phong và Quan hệ đối tác AI càng chứng tỏ cam kết của công ty đối với sự phát triển an toàn và có trách nhiệm của công nghệ AI. Quan hệ đối tác được tăng cường của chúng tôi với AISI sẽ cho phép một cách tiếp cận an toàn AI mạnh mẽ hơn, mang lại lợi ích không chỉ cho các tổ chức liên quan mà còn cho toàn ngành và người dùng AI.