Dengan memanfaatkan TensorRT NVIDIA di AWS, Adobe mencapai peningkatan performa yang signifikan untuk model pembuatan video Firefly. Kolaborasi ini mengurangi latency hingga 60% dan total biaya kepemilikan sekitar 40%, sehingga memungkinkan inferensi AI yang lebih efisien dan hemat biaya. Kuantisasi FP8 pada GPU NVIDIA Hopper memainkan peran utama dalam memungkinkan peningkatan ini, mempercepat inferensi, dan memungkinkan perusahaan melayani basis pengguna yang lebih besar dengan sumber daya yang lebih sedikit.

Model Firefly, yang dapat menghasilkan gambar terperinci dari perintah teks, telah dioptimalkan untuk penerapan pada instans AWS EC2 P5/P5en dengan GPU Hopper, yang memberikan skalabilitas dan respons yang lebih baik untuk menangani beban komputasi yang besar dari model viralitas video secara lebih efisien. Keberhasilan Adobe dengan Firefly disebabkan oleh penggunaan teknologi terkini yang strategis dan fokus pada pengurangan latency dan biaya.

Strategi adopsi Adobe mencakup beberapa langkah utama, termasuk menggunakan ONNX untuk ekspor model dan menerapkan presisi campuran yang menggabungkan FP8 dan BF16 untuk mengurangi jejak memori. Proses pengoptimalan juga mencakup teknik kuantisasi pasca-pelatihan yang difasilitasi oleh alat pembelajaran mendalam NVIDIA. Upaya ini memungkinkan Adobe untuk menyederhanakan proses kreatif bagi penggunanya dan mengintegrasikan Firefly ke dalam rangkaian aplikasi kreatif mereka.

"Kemajuan yang dicapai dengan Adobe Firefly menyoroti potensi AI dalam industri kreatif. Pengembangan dan penerapan model ini yang cepat hanya dalam waktu kurang dari empat bulan merupakan bukti kolaborasi antara Adobe, NVIDIA, dan AWS. Seiring dengan terus berinovasinya Adobe di bidang AI kreatif, pelajaran yang dipetik dari pengembangan Firefly tidak diragukan lagi akan memengaruhi inovasi di masa mendatang."