top of page
Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
logo.png

NVIDIA Mendemonstrasikan Alur Kerja Kuantisasi CLIP FP8

Generatived

11/5/26, 00.00

NVIDIA memperkenalkan alur kerja praktis untuk mengkuantisasi model CLIP ke format FP8 menggunakan NVIDIA Model Optimizer, yang bertujuan untuk mengurangi konsumsi VRAM dan meningkatkan efisiensi inferensi pada GPU konsumen sambil mempertahankan kualitas model untuk aplikasi AI multimodal.

Perusahaan menjelaskan bahwa Model Optimizer menggabungkan teknik-teknik termasuk kuantisasi, pemangkasan, distilasi, sparsitas, dan decoding spekulatif ke dalam kerangka optimasi terpadu yang kompatibel dengan model Hugging Face, PyTorch, dan ONNX. Demonstrasi tersebut menggunakan model CLIP-ViT-L-14-laion2B-s32B-b82K bersama dengan dataset kalibrasi MS-COCO.

Evaluasi pada CIFAR-100, ImageNet-1k, dan MS-COCO Captions dilaporkan menunjukkan bahwa kuantisasi pasca-pelatihan FP8 mempertahankan tingkat akurasi yang mendekati baseline FP16. NVIDIA juga mencatat bahwa menonaktifkan kuantizer di dalam lapisan penyematan patch secara signifikan mengurangi penurunan kualitas selama kuantisasi.

Alur kerja tersebut selanjutnya menyoroti penggunaan kuantisasi palsu, di mana operasi kuantisasi-dekuantisasi mensimulasikan eksekusi presisi rendah sebelum penerapan. Menurut NVIDIA, checkpoint yang dioptimalkan nantinya dapat diekspor ke ONNX dan dipercepat dengan TensorRT untuk beban kerja inferensi produksi.

Bagikan artikel ini:

Tin tức mới nhất
Microsoft Memperingatkan Meningkatnya Ancaman Jebakan AI

Microsoft Memperingatkan Meningkatnya Ancaman Jebakan AI

11/6/26, 00.00

Microsoft melaporkan peningkatan kampanye siber yang menyalahgunakan merek platform AI populer, termasuk ChatGPT, Claude, dan DeepSeek

Apple Memperluas Alat AI dengan Xcode 27

Apple Memperluas Alat AI dengan Xcode 27

11/6/26, 00.00

Apple memperkenalkan kerangka kerja AI baru dan pembaruan besar pada Xcode 27 yang bertujuan membantu pengembang membangun aplikasi dengan lebih efisien.

NVIDIA Memperkenalkan Alur Kerja Evaluasi AI Ucapan Klinis

NVIDIA Memperkenalkan Alur Kerja Evaluasi AI Ucapan Klinis

11/6/26, 00.00

NVIDIA memaparkan alur kerja yang dirancang untuk meningkatkan sistem pengenalan ucapan klinis melalui pembuatan audio sintetis yang peka terhadap pengucapan

Google Meluncurkan Gemini 3.5 Live Translate

Google Meluncurkan Gemini 3.5 Live Translate

11/6/26, 00.00

NVIDIA memaparkan alur kerja yang dirancang untuk meningkatkan sistem pengenalan ucapan klinis melalui pembuatan audio sintetis yang peka terhadap pengucapan

Copyright © 2024 Generatived - All right Reserved.

Bagikan artikel ini:

Bagikan artikel ini:

Generatived

Hãy theo dõi chúng tôi

  • Facebook
  • X

Bahasa

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

Generatived AI Logo

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

  • Facebook
  • X

Ikuti kami

Bahasa

Berita terkini
Microsoft Memperingatkan Meningkatnya Ancaman Jebakan AI

Microsoft Memperingatkan Meningkatnya Ancaman Jebakan AI

11/6/26, 00.00

Microsoft melaporkan peningkatan kampanye siber yang menyalahgunakan merek platform AI populer, termasuk ChatGPT, Claude, dan DeepSeek

Apple Memperluas Alat AI dengan Xcode 27

Apple Memperluas Alat AI dengan Xcode 27

11/6/26, 00.00

Apple memperkenalkan kerangka kerja AI baru dan pembaruan besar pada Xcode 27 yang bertujuan membantu pengembang membangun aplikasi dengan lebih efisien.

NVIDIA Memperkenalkan Alur Kerja Evaluasi AI Ucapan Klinis

NVIDIA Memperkenalkan Alur Kerja Evaluasi AI Ucapan Klinis

11/6/26, 00.00

NVIDIA memaparkan alur kerja yang dirancang untuk meningkatkan sistem pengenalan ucapan klinis melalui pembuatan audio sintetis yang peka terhadap pengucapan

Google Meluncurkan Gemini 3.5 Live Translate

Google Meluncurkan Gemini 3.5 Live Translate

11/6/26, 00.00

NVIDIA memaparkan alur kerja yang dirancang untuk meningkatkan sistem pengenalan ucapan klinis melalui pembuatan audio sintetis yang peka terhadap pengucapan

bottom of page