NVIDIA mengumumkan dukungan untuk StepFun Step 3.7 Flash, model AI multimodal yang dirancang untuk beban kerja skala perusahaan yang menggabungkan visi, bahasa, pencarian, dan penalaran. Model ini dioptimalkan untuk aplikasi berbasis agen yang memproses dokumen, gambar, dan video secara real-time.

Langkah 3.7 Flash memiliki total 198 miliar parameter dengan sekitar 11 miliar parameter aktif per proses inferensi. Ia mendukung jendela konteks 256K dan berbagai mode penalaran, yang ditujukan untuk kasus penggunaan seperti analisis keuangan, bantuan pengkodean, dan kecerdasan dokumen skala besar.

Pengembang dapat mengakses checkpoint terkuantisasi NVFP4 melalui Hugging Face dan menerapkan model menggunakan framework termasuk SGLang, TensorRT-LLM, dan vLLM. Perusahaan menyatakan bahwa opsi-opsi ini membantu mengurangi kebutuhan memori sambil mempertahankan inferensi berkinerja tinggi pada perangkat keras NVIDIA.

NVIDIA juga menyoroti penerapan produksi melalui layanan mikro NIM dan kustomisasi melalui Kerangka Kerja NeMo. Organisasi dapat menjalankan model ini di lingkungan cloud, on-premises, atau hybrid dan menyempurnakannya dengan data khusus domain untuk aplikasi perusahaan yang terspesialisasi.