Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（米カリフォルニア州サンタクララ）は、StepFunの大規模マルチモーダルモデル「Step 3.7 Flash」が同社のAI基盤上で利用可能になったと発表した。画像や動画、文書を扱うエージェント型AI向けに設計されており、企業向けワークロードへの対応を強化するとしている。

同モデルは総パラメータ数1980億のMixture-of-Experts構成を採用し、推論時には約110億パラメータを活性化する。256Kコンテキスト長に対応するほか、低・中・高の3段階の推論モードを備え、金融分析やコーディング支援などの用途を想定しているという。

開発者は、Hugging Faceで公開されているNVFP4量子化チェックポイントを利用できるほか、SGLangやTensorRT-LLM、vLLMなどのオープンソースフレームワークを通じてNVIDIA GPU向けに最適化された推論環境を構築できるとしている。

また、NVIDIA NIMによる本番環境への展開や、NeMo Frameworkを活用したファインチューニングにも対応する。企業はオンプレミスやクラウド環境でモデルを運用できるほか、業界固有データを用いたカスタマイズも可能になると説明している。