Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Bằng cách tận dụng TensorRT của NVIDIA trên AWS, Adobe đã đạt được những cải tiến hiệu suất đáng kể cho mô hình tạo video Firefly của mình. Sự hợp tác này đã giảm latency xuống 60% và tổng chi phí sở hữu xuống khoảng 40%, cho phép suy luận AI hiệu quả và tiết kiệm chi phí hơn. Lượng tử hóa FP8 của GPU NVIDIA Hopper đóng vai trò chính trong việc cho phép những cải tiến này, tăng tốc suy luận và cho phép công ty phục vụ lượng người dùng lớn hơn với ít tài nguyên hơn.

Mô hình Firefly, có thể tạo ra hình ảnh chi tiết từ lời nhắc văn bản, đã được tối ưu hóa để triển khai trên các phiên bản AWS EC2 P5/P5en với GPU Hopper, cung cấp khả năng mở rộng và phản hồi cao hơn để xử lý hiệu quả hơn khối lượng tính toán khổng lồ của mô hình lan truyền video. Thành công của Adobe với Firefly là nhờ sử dụng chiến lược công nghệ mới nhất và tập trung vào việc giảm latency và chi phí.

Chiến lược áp dụng của Adobe bao gồm một số bước chính, bao gồm sử dụng ONNX để xuất mô hình và triển khai độ chính xác hỗn hợp kết hợp FP8 và BF16 để giảm dấu chân bộ nhớ. Quá trình tối ưu hóa cũng bao gồm các kỹ thuật lượng tử hóa sau đào tạo được hỗ trợ bởi các công cụ học sâu của NVIDIA. Những nỗ lực này cho phép Adobe hợp lý hóa quy trình sáng tạo cho người dùng và tích hợp Firefly vào bộ ứng dụng sáng tạo của họ.

"Tiến trình đạt được với Adobe Firefly làm nổi bật tiềm năng của AI trong các ngành công nghiệp sáng tạo. Việc phát triển và triển khai nhanh chóng mô hình này chỉ trong vòng chưa đầy bốn tháng là minh chứng cho sự hợp tác giữa Adobe, NVIDIA và AWS. Khi Adobe tiếp tục đổi mới trong lĩnh vực AI sáng tạo, những bài học kinh nghiệm rút ra từ quá trình phát triển Firefly chắc chắn sẽ ảnh hưởng đến những đổi mới trong tương lai."