Lanskap AI berubah drastis dengan tersedianya model AI sumber terbuka seperti Cosmos, DeepSeek, dan Gemma secara luas. Model-model ini tersedia secara gratis, memberikan para peneliti dan organisasi alat untuk berinovasi tanpa harus membangunnya dari awal. Sistem NVIDIA dan perangkat lunak sumber terbuka meningkatkan aksesibilitas ini, memungkinkan akselerasi AI di berbagai platform, mulai dari layanan cloud hingga perangkat edge.

Arsitektur GPU Blackwell NVIDIA dirancang untuk memenuhi kebutuhan beban kerja AI yang tinggi. Arsitektur ini dilengkapi Tensor Core generasi ke-5 dan NVFP4, format komputasi numerik baru yang meningkatkan performa sekaligus mempertahankan presisi. Arsitektur ini juga dilengkapi NVIDIA NVLink-72, yang mempercepat komunikasi antar-GPU, yang penting untuk penskalaan tugas AI di berbagai GPU. GPU Blackwell dilengkapi mesin Transformer canggih dan NVLink Fusion untuk mendukung kalkulasi AI yang kompleks.

Untuk mendorong inovasi AI, NVIDIA menyediakan beragam perangkat, model, dan set data sumber terbuka. Lebih dari 1.000 perangkat sumber terbuka tersedia di repositori GitHub NVIDIA, dan koleksi NVIDIA Hugging Face menyediakan lebih dari 450 model dan 80 set data. Tumpukan perangkat lunak NVIDIA, termasuk pustaka CUDA-X, dirancang untuk mengoptimalkan kinerja dan memungkinkan pengembang memanfaatkan AI sumber terbuka secara maksimal pada perangkat keras canggih seperti GPU Blackwell.

Alur pengembangan perangkat AI sumber terbuka NVIDIA menyederhanakan seluruh proses, mulai dari persiapan data hingga penerapan model. RAPIDS mempercepat analisis data, sementara kerangka kerja seperti NeMo, PhysicsNeMo, dan BioNeMo memungkinkan pembuatan aplikasi AI tingkat lanjut. Tumpukan inferensi NVIDIA TensorRT dan templat CUTLASS mengoptimalkan penerapan model, sementara NVIDIA Dynamo berfungsi sebagai platform penyajian inferensi yang efisien. Perangkat-perangkat ini, dikombinasikan dengan model dan set data terbuka, memungkinkan pengembang untuk berinovasi dan meningkatkan skala solusi AI secara efektif.