Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

OpenAI đã công bố Sora, một mô hình tạo video phức tạp có thể tạo video có độ phân giải cao từ nhiều nguồn đầu vào khác nhau, bao gồm văn bản, hình ảnh và nội dung video hiện có. Công nghệ của Sora có thể tạo video có độ phân giải lên tới 1080p và dài 20 giây, tạo ra nền tảng nơi người dùng có thể nâng cao và phối lại nội dung của riêng họ cũng như tìm cảm hứng từ tác phẩm của cộng đồng được nêu trong nguồn cấp dữ liệu của mô hình.

Dựa trên những tiến bộ từ các mô hình trước đó như DALL·E và GPT, Sora áp dụng phương pháp tiếp cận mô hình khuếch tán để chuyển đổi video cơ bản từ nhiễu tĩnh sang hình ảnh sắc nét theo nhiều bước. Điều này đảm bảo tính nhất quán của chủ thể ngay cả khi chủ thể tạm thời nằm ngoài khung hình. Kiến trúc máy biến áp của mô hình hứa hẹn khả năng mở rộng hiệu quả, tương tự như các tính năng có trong mô hình GPT.

Khả năng tạo video theo hướng dẫn bằng văn bản của Sora là nhờ kỹ thuật tạo phụ đề lại mượn từ DALL·E 3 để tạo ra các chú thích mang tính mô tả cao cho dữ liệu đào tạo trực quan. Mô hình này có thể tạo hoạt ảnh cho hình ảnh tĩnh hoặc sửa đổi chính xác các video hiện có, mở đường cho các mô hình có thể mô phỏng các tình huống trong thế giới thực. Đây là một bước quan trọng để đạt được trí tuệ nhân tạo tổng quát (AGI).

Tuy nhiên, khả năng lạm dụng, chẳng hạn như tạo nội dung sai lệch hoặc tục tĩu, đã khiến OpenAI phải triển khai các biện pháp an toàn mạnh mẽ. Điều này bao gồm các chiến lược triển khai DALL·E trong ChatGPT và các sản phẩm khác, đồng thời nghiên cứu đang được tiến hành để cải thiện các biện pháp bảo vệ này.

Mô hình này được đào tạo trên nhiều bộ dữ liệu khác nhau, bao gồm dữ liệu công khai, dữ liệu độc quyền từ các đối tác và bộ dữ liệu nội bộ tùy chỉnh. Tính năng lọc trước đào tạo và xử lý trước dữ liệu đã loại bỏ nội dung nhạy cảm, giúp tập dữ liệu đào tạo trở nên an toàn hơn.

Để chuẩn bị cho sự ra mắt của Sora, OpenAI đã cộng tác với các nghệ sĩ thị giác và nhà làm phim trên khắp thế giới để tinh chỉnh mô hình cũng như tiến hành các đánh giá nội bộ và bên ngoài sâu rộng để xác định và giảm thiểu rủi ro. Giới hạn độ tuổi, giới hạn tải lên ảnh chân dung và ngưỡng kiểm duyệt thận trọng là một phần của cách tiếp cận lặp đi lặp lại để đảm bảo an toàn.

Đội đỏ bên ngoài đóng vai trò quan trọng trong việc kiểm tra các biện pháp giảm nhẹ an toàn của Sora. Đội đỏ từ nhiều quốc gia khác nhau đã điều tra các rủi ro tiềm ẩn, thử nghiệm chức năng của mô hình và cung cấp phản hồi có giá trị giúp đưa ra các biện pháp an toàn bổ sung.

Cam kết về an toàn của OpenAI mở rộng sang các lĩnh vực cụ thể như bảo vệ trẻ em, thông qua quan hệ đối tác với các tổ chức như NCMEC và sử dụng các bộ phân loại nâng cao để ngăn chặn việc tạo và lan truyền nội dung có hại. Chính sách cấm sản xuất tài liệu rõ ràng hoặc lừa đảo, bao gồm cả nội dung giả mạo sâu, được thực thi thông qua sự kết hợp giữa các biện pháp giảm thiểu công nghệ và giáo dục người dùng.

OpenAI tiếp tục cải tiến Sora và công việc trong tương lai sẽ tập trung vào việc mở rộng tiềm năng sáng tạo của mô hình đồng thời đảm bảo tính toàn vẹn và an toàn về mặt đạo đức. Tổ chức tiếp tục nỗ lực cải thiện các công cụ trình bày đầu ra, tính minh bạch và xuất xứ dựa trên phản hồi của người dùng và đánh giá liên tục.