Alibaba merilis bobot untuk Qwen3.8-Flash-Next, sebuah model pratinjau yang mendemonstrasikan arsitektur multimodal Qwen4 yang akan datang. Menampilkan tata letak Mixture-of-Experts dengan 125 miliar parameter, model ini mendukung jendela konteks asli sebesar 262.144 token yang dapat diskalakan hingga satu juta token menggunakan metode perluasan konteks YaRN.

Sistem ini menggabungkan teknologi Gated DeltaNet dan Qwen Sparse Attention untuk mengurangi tekanan memori selama operasi yang membutuhkan banyak konteks. Evaluasi Benchmark menunjukkan peningkatan kecepatan kernel perhatian hingga 7,6 kali selama tahap pra-pengisian, secara signifikan meningkatkan throughput pemrosesan untuk pengkodean agenik berkelanjutan dan analisis dokumen yang kompleks.

NVIDIA memvalidasi model tersebut di seluruh kerangka kerja inferensi LLM SGLang, vLLM, dan TensorRT, memastikan optimasi pada sistem GB300 NVL72. Pengembang dapat mengakses resep penyempurnaan melalui NeMo AutoModel, memungkinkan pelatihan dan penerapan yang terukur di seluruh workstation dan pusat data perusahaan.