Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Alibaba（杭州）は、次世代アーキテクチャのプレビューモデル「Qwen3.8-Flash-Next」の重みを開発者向けに公開した。本モデルは1250億パラメータを持つマルチモーダルなMoE構成を採用し、ネイティブで26万2144トークン、YaRN拡張により最大100万トークンの長文コンテキストに対応しているという。

Alibaba（杭州）の発表によると、本システムはGated DeltaNetとQwen Sparse Attentionを組み合わせたハイブリッド構造により、コンテキスト増大に伴うメモリーや計算効率のボトルネックを解消した。実験では従来の全アテンションと比較し、プリフィル処理で最大7.6倍、デコーディングで4.9倍の高速化を実現した模様だ。

NVIDIAがDay 0での機能サポートを行い、SGLangやvLLM、NVIDIA GB300 NVL72システムでの検証を実施したとされる。開発者はNVIDIA NeMoを用いたファインチューニングや強化学習の導入が可能であり、ローカル環境での試作から大規模な商用環境への展開まで円滑に拡張できる構えとのことだ。