Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Các công cụ AI sáng tạo đang trở thành một phần không thể thiếu trong công nghệ hàng ngày, bao gồm cả việc hỗ trợ công việc và nỗ lực sáng tạo. Tuy nhiên, sự phổ biến ngày càng tăng của nó cũng mang đến rủi ro bị lạm dụng, chẳng hạn như lan truyền thông tin sai lệch và lừa đảo. Để giải quyết vấn đề này, một bộ công cụ kỹ thuật số mới, SynthID, đã được giới thiệu vào năm ngoái để tạo hình mờ cho nội dung do AI tạo ra và cho phép người dùng phân biệt giữa nội dung do AI tạo ra và nội dung do con người tạo ra.

Bộ công cụ hiện có khả năng tạo hình mờ cho văn bản do AI tạo trong các ứng dụng và trải nghiệm web của Gemini cũng như video trong Veo, một mô hình video tổng hợp phức tạp. SynthID for Text được điều chỉnh để hoạt động với các mô hình tạo văn bản AI phổ biến và có thể mở rộng. Mặt khác, hình mờ video mở rộng phương pháp này để bao phủ mọi khung hình của video. Cách tiếp cận sáng tạo này nhúng hình mờ theo cách không thể phát hiện được, duy trì tính toàn vẹn và chất lượng của nội dung được tạo ra.

Mặc dù SynthID không phải là giải pháp tối ưu để xác định nội dung do AI tạo ra nhưng đây là một bước quan trọng để phát triển các công cụ nhận dạng đáng tin cậy hơn. Công cụ này nhằm mục đích giúp hàng triệu người đưa ra quyết định sáng suốt khi làm việc với nội dung do AI tạo ra. Có kế hoạch mở thành phần hình mờ văn bản của SynthID vào cuối năm nay, cho phép các nhà phát triển tích hợp công nghệ này vào các mô hình của riêng họ.

Hình mờ văn bản nhúng các hình mờ tinh vi trong giai đoạn tạo văn bản bằng cách điều chỉnh khả năng sử dụng một số mã thông báo nhất định. Điều này không ảnh hưởng tới chất lượng hay tính sáng tạo của sản phẩm đầu ra. Hình mờ là một mẫu điểm duy nhất có thể được sử dụng để xác minh nguồn gốc của văn bản. Mặc dù hiệu quả trong nhiều trường hợp nhưng nó có những hạn chế như không đáng tin cậy nếu văn bản được viết lại hoặc dịch đáng kể.

Hình mờ văn bản SynthID kém hiệu quả hơn đối với các lời nhắc thực tế trong đó độ chính xác là tối quan trọng. Không giống như các trình phân loại khó duy trì tính nhất quán trên các nền tảng khác nhau, SynthID có thể được sử dụng riêng lẻ hoặc kết hợp với các phương pháp phát hiện khác để có cách tiếp cận toàn diện hơn. Mặc dù không được thiết kế để ngăn chặn những kẻ tấn công mạng đầy thù hận nhưng nó có thể gây khó khăn hơn cho việc sử dụng nội dung do AI tạo ra cho các mục đích có hại.

Đối với video, công nghệ hình mờ lấy cảm hứng từ các công cụ hình ảnh sẽ nhúng hình mờ vào mọi khung hình của video. Hình mờ này không thể nhìn thấy được bằng mắt thường nhưng có thể được phát hiện cho mục đích nhận dạng. Điều này rất quan trọng khi công nghệ tạo video ngày càng phát triển và nhu cầu xác định video do AI tạo ra ngày càng tăng. Bắt đầu từ hôm nay, các video do Veo tạo trên VideoFX sẽ có hình mờ SynthID được nhúng.

Trong tương lai, công nghệ tạo hình mờ văn bản của SynthID sẽ trở thành một phần của hệ sinh thái AI rộng lớn hơn. Một tài liệu nghiên cứu chi tiết đã được xuất bản và công nghệ này sẽ có nguồn mở thông qua Bộ công cụ AI sáng tạo có trách nhiệm được cập nhật. Động thái này sẽ cho phép các nhà phát triển tạo ra các ứng dụng AI an toàn hơn bằng cách kết hợp SynthID vào mô hình của họ, góp phần vào việc sử dụng có trách nhiệm nội dung do AI tạo ra. nước xốt: