Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
NVIDIA、Step 3.7 Flash提供開始
Generatived
26/6/1 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、StepFunの大規模マルチモーダルモデル「Step 3.7 Flash」が同社のAI基盤上で利用可能になったと発表した。画像や動画、文書を扱うエージェント型AI向けに設計されており、企業向けワークロードへの対応を強化するとしている。
同モデルは総パラメータ数1980億のMixture-of-Experts構成を採用し、推論時には約110億パラメータを活性化する。256Kコンテキスト長に対応するほか、低・中・高の3段階の推論モードを備え、金融分析やコーディング支援などの用途を想定しているという。
開発者は、Hugging Faceで公開されているNVFP4量子化チェックポイントを利用できるほか、SGLangやTensorRT-LLM、vLLMなどのオープンソースフレームワークを通じてNVIDIA GPU向けに最適化された推論環境を構築できるとしている。
また、NVIDIA NIMによる本番環境への展開や、NeMo Frameworkを活用したファインチューニングにも対応する。企業はオンプレミスやクラウド環境でモデルを運用できるほか、業界固有データを用いたカスタマイズも可能になると説明している。
最新のニュース
NVIDIAがDynoSimで推論最適化加速
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、大規模言語モデル向け推論基盤「Dynamo」の挙動を再現するシミュレーション環境「DynoSim」を公開した。
%20(1).webp)
NVIDIAがAIモデル文書化を自動化
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、AIモデル向け文書作成を自動化する「Model Card Generator（MCG） Toolkit」を発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIAがDynoSimで推論最適化加速
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、大規模言語モデル向け推論基盤「Dynamo」の挙動を再現するシミュレーション環境「DynoSim」を公開した。
NVIDIAがAIモデル文書化を自動化
26/6/2 0:00
NVIDIA（米カリフォルニア州サンタクララ）は、AIモデル向け文書作成を自動化する「Model Card Generator（MCG） Toolkit」を発表した。