Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

OpenAI, một tổ chức nghiên cứu hàng đầu trong lĩnh vực AI, đã công bố một chương trình tài trợ mới nhằm khám phá các cách quản lý hệ thống AI thông qua các quy trình dân chủ. Chương trình sẽ trao 10 khoản tài trợ trị giá 100.000 đô la để tài trợ cho các thí nghiệm có sự tham gia của những người có tính đại diện rộng rãi để cân nhắc và quyết định các quy tắc mà hệ thống AI phải tuân theo. Mục tiêu là thúc đẩy sự đổi mới trong các quy trình phản ánh lợi ích công cộng và có thể giải quyết các thách thức phức tạp và nhiều sắc thái do AI đặt ra. Chương trình tài trợ này dành cho bất kỳ ai đáp ứng các tiêu chí đủ điều kiện và có thể gửi đơn đăng ký trước ngày 24 tháng 6 năm 2023.

Khám phá quy trình dân chủ trong quản lý AI
Thông báo của OpenAI được đưa ra vào thời điểm các hệ thống AI, đặc biệt là các mô hình ngôn ngữ quy mô lớn như ChatGPT, đang trở nên mạnh mẽ và phổ biến hơn. Những hệ thống này có ý nghĩa quan trọng về mặt kinh tế và xã hội vì chúng có thể thực hiện các nhiệm vụ theo truyền thống đòi hỏi trí thông minh và sự sáng tạo của con người, chẳng hạn như viết bài, viết mã, báo cáo tin tức và tài liệu pháp lý. Tuy nhiên, các hệ thống này cũng đặt ra những thách thức phức tạp và nhiều sắc thái về quản trị, quy định và đạo đức vì chúng có thể ảnh hưởng đến nhân quyền, quyền riêng tư, an ninh, dân chủ, v.v. Ví dụ, hệ thống AI nên trả lời các câu hỏi về góc nhìn của các nhân vật của công chúng như thế nào? Họ nên trung lập, từ chối trả lời hay cung cấp nguồn tin? Hệ thống AI nên cân bằng tính đa dạng và đồng nhất như thế nào khi tạo hình ảnh cho những lời nhắc không rõ ràng, chẳng hạn như “CEO” hay “y tá”? Hệ thống AI nên xử lý các chủ đề liên quan đến cả nhân quyền và sự khác biệt về văn hóa hoặc pháp lý địa phương như thế nào?

OpenAI tin rằng các quyết định về cách thức hoạt động của AI phải được định hình bởi các quan điểm đa dạng phản ánh lợi ích công cộng và cần có các phương pháp tiếp cận dân chủ được cải thiện để quản lý hành vi của AI. Tôi nghĩ là có. Vì vậy, công ty đã đưa ra một chương trình tài trợ để tài trợ cho các thí nghiệm nhằm thiết lập một quy trình dân chủ nhằm xác định các quy tắc mà hệ thống AI phải tuân theo, trong giới hạn của pháp luật. Chi tiết về thông báo của họ dưới đây.


- Chương trình tài trợ sẽ trình bày một ý tưởng với ít nhất 500 người tham gia. Mười ứng viên được chọn sẽ nhận được khoản tài trợ 100.000 USD bằng cách xuất bản một báo cáo công khai về kết quả nghiên cứu của họ và cung cấp mã nguồn mở cho nghiên cứu của họ trước ngày 20 tháng 10 năm 2023.

-Chương trình tài trợ dành cho các cá nhân, nhóm và tổ chức trên toàn thế giới miễn là họ đáp ứng các tiêu chí đủ điều kiện và nộp đơn đăng ký trước ngày 24 tháng 6 năm 2023.

・"Quy trình dân chủ" của OpenAI đề cập đến một quy trình trong đó một nhóm đại diện rộng rãi trao đổi ý kiến, cân nhắc và cuối cùng xác định kết quả thông qua quy trình ra quyết định minh bạch. Có nhiều cách để cấu trúc một quá trình như vậy. OpenAI khuyến khích người nộp đơn đổi mới và xây dựng dựa trên các phương pháp, cách tiếp cận đã biết như Wikipedia, Twitter Community Notes, DemocracyNext, Platform Assemblies, MetaGov, RadicalxChange, People Powered, Collective Response Systems, pol.is. Chúng tôi đang nghĩ ra một cách tiếp cận hoàn toàn mới dựa trên ví dụ về . OpenAI cũng khuyến khích người nộp đơn tưởng tượng AI có thể nâng cao các quy trình dân chủ như thế nào. Ví dụ: AI có thể cho phép giao tiếp hiệu quả hơn giữa nhiều người.


OpenAI sẽ nhắc người nộp đơn chọn một hoặc nhiều câu hỏi từ danh sách được cung cấp hoặc tạo câu hỏi của riêng họ để giới thiệu cách tiếp cận được đề xuất. Câu hỏi liên quan đến các vấn đề chính sách liên quan đến hành vi của mô hình. Mục đích chính của khoản tài trợ là khuyến khích đổi mới quy trình. OpenAI tuyên bố rằng các câu trả lời cụ thể cho các câu hỏi quan trọng hơn những tiến bộ trong chính quy trình đó.

・OpenAI có Ban cố vấn ứng dụng bao gồm Colin Megill (đồng sáng lập pol.is), Hélène Landemore (giáo sư khoa học chính trị tại Đại học Yale) và Aviv Ovadya (Trung tâm Berkman Klein). OpenAI đánh giá các ứng dụng dựa trên một số yếu tố, bao gồm số liệu, tính mạnh mẽ, tính toàn diện, tính đại diện, tăng cường tiếng nói của thiểu số, phối hợp hiệu quả, khả năng mở rộng, tính khả thi và khả năng đọc.

OpenAI phải đối mặt với sự hoài nghi về các thử nghiệm quản trị AI
Tuy nhiên, không phải ai cũng hào hứng với thông báo của OpenAI. Một số nhà phê bình đã bày tỏ lo ngại về động lực và độ tin cậy của chính OpenAI, cũng như tính hiệu quả và tính khả thi của chương trình tài trợ.

Chương trình tài trợ quá mơ hồ và đầy tham vọng, đồng thời không cung cấp hướng dẫn hoặc tiêu chuẩn rõ ràng về những gì cấu thành một quy trình dân chủ trong quản trị AI. Các câu hỏi mà OpenAI nhắc người nộp đơn lựa chọn hoặc tạo cũng rất rộng và phức tạp và có thể không có câu trả lời cuối cùng hoặc được thống nhất.

Các chương trình tài trợ quá ngắn và hạn chế, khiến người nộp đơn không có đủ thời gian và nguồn lực để thiết kế, thực hiện và đánh giá các thử nghiệm. Hạn chót nộp đơn chỉ là một tháng sau khi công bố và thời hạn xuất bản báo cáo chỉ là bốn tháng sau khi trao giải. Khoản tài trợ 100.000 USD có thể không đủ để trang trải chi phí phát triển một hệ thống mạnh mẽ, có thể mở rộng với ít nhất 500 người tham gia.

- Các chương trình tài trợ quá độc quyền và ưu tú, không đảm bảo tính đa dạng và tính đại diện của người nộp đơn hoặc người tham gia. Tiêu chí đủ điều kiện cho người nộp đơn không được xác định rõ ràng, nhưng ưu tiên có thể được dành cho những người có kinh nghiệm và chuyên môn về nghiên cứu và phát triển AI. Quá trình lựa chọn người tham gia cũng có thể bị thiên vị hoặc sai lệch bởi sở thích và chương trình nghị sự của chính người nộp đơn.

Chương trình tài trợ quá ích kỷ và đạo đức giả, đồng thời không phản ánh sứ mệnh hoặc điều lệ đã nêu của OpenAI. OpenAI tuyên bố là một tổ chức nghiên cứu phi lợi nhuận chuyên tạo ra và đảm bảo việc sử dụng AI an toàn và có lợi cho nhân loại. Nhưng họ cũng bị cáo buộc là bí mật, cạnh tranh và hướng tới lợi nhuận, cũng như tạo ra các hệ thống AI có khả năng gây hại hoặc phi đạo đức. Các ví dụ bao gồm quyết định đình chỉ phần lớn mô hình ChatGPT do lo ngại về các ứng dụng độc hại, quan hệ đối tác với Microsoft để cấp quyền truy cập độc quyền vào nền tảng đám mây Azure và khả năng tạo hình ảnh vi phạm bản quyền và quy chuẩn của Dall-E. phát triển, v.v.
Tome, một công ty khởi nghiệp kể chuyện về AI ban đầu được xây dựng trên ChatGPT, cho biết họ đã bắt đầu thử nghiệm các mô hình khác từ các đối thủ OpenAI, bao gồm Anthropic AI và Stability AI, theo Reuter. Mục tiêu là tìm ra mô hình tốt nhất cho từng hành động với độ trễ thấp nhất và chất lượng cao nhất. George Mathew, một nhà đầu tư AI tại Insight Partners, cũng cho biết Microsoft và OpenAI sẽ không thống trị không gian AI và một hệ sinh thái lành mạnh sẽ có nhiều nhà cung cấp mô hình cơ bản.

Ngoài ra, TechCrunch, một trong những cơ quan truyền thông công nghệ lớn, báo cáo:

Trong một bài đăng thông báo, OpenAI gợi ý rằng chương trình tài trợ hoàn toàn tách biệt với lợi ích thương mại của nó. Nhưng đây là một viên thuốc khó nuốt, trước những lời chỉ trích gần đây của Altman về các quy định AI được đề xuất ở EU. Thời điểm này cũng có vẻ đáng chú ý sau khi Altman xuất hiện trước ủy ban Thượng viện Hoa Kỳ vào tuần trước để ủng hộ các quy định AI rất cụ thể nhằm giảm thiểu tác động đến công nghệ của OpenAI như nó tồn tại ngày nay.
Tuy nhiên, đây vẫn là một hướng đi thú vị cho việc hoạch định chính sách AI (ngay cả khi nó rõ ràng trùng lặp với các nỗ lực của EU), ngay cả khi chương trình cuối cùng chỉ mang tính chất tư lợi. Cá nhân tôi quan tâm xem những ý tưởng nào sẽ xuất hiện cho "tiến trình dân chủ" và những ứng viên cuối cùng mà OpenAI sẽ chọn.
TechCrunch, “Với chương trình tài trợ mới, OpenAI hướng tới việc cung cấp nguồn lực cho quy định về AI”
Chất xúc tác cho quản trị AI dân chủ
Cuộc tranh luận do OpenAI đưa ra trong chương trình tài trợ của mình có thể sẽ sôi nổi và đa dạng, khi các bên liên quan và chuyên gia khác nhau cân nhắc về những thách thức và cơ hội trong việc thiết lập các quy trình dân chủ cho quản trị AI. Cuộc thảo luận này cũng kích thích những ý tưởng và sự hợp tác mới giữa các nhà nghiên cứu, người thực hành, nhà hoạch định chính sách và các nhóm xã hội dân sự quan tâm đến việc khám phá những cách thức sáng tạo để thu hút công chúng tham gia vào việc định hình hành vi của các hệ thống AI. có thể được gợi lên.

Kết quả mong đợi từ chương trình tài trợ này là một loạt thử nghiệm giới thiệu các cách tiếp cận và phương pháp khác nhau để xây dựng các quy trình dân chủ cho quản trị AI. Các thử nghiệm có thể khác nhau về thiết kế, cách thực hiện, đánh giá và kết quả tùy thuộc vào câu hỏi mà chúng giải quyết, những người tham gia tham gia, các công cụ được sử dụng và tiêu chí mà chúng áp dụng. Thử nghiệm này có thể mang lại những hiểu biết và bài học có giá trị cho những nỗ lực trong tương lai trong lĩnh vực này, cũng như những thách thức và sự đánh đổi tiềm ẩn cần xem xét.

Chương trình tài trợ này có tiềm năng tác động rộng hơn không chỉ đến lĩnh vực nghiên cứu và phát triển AI mà còn đến nhận thức và nhận thức của công chúng về các vấn đề AI. Thông báo về chương trình tài trợ OpenAI dự kiến ​​sẽ khuyến khích nhiều nhà nghiên cứu và nhà phát triển áp dụng các thực hành có đạo đức và có trách nhiệm trong công việc của họ, đồng thời tìm kiếm phản hồi và ý kiến ​​từ một nhóm đại diện và đa dạng. Sẽ rất thú vị để xem liệu sự hiểu biết và sự tham gia của công chúng vào các vấn đề AI có tăng lên hay không và liệu công chúng có thể có tiếng nói và cổ phần trong hoạt động của hệ thống AI hay không.