Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIAは、エージェント型AIシステムを強化するために設計されたオープンモデルスイートであるNemotron 3ファミリーを発表しました。Nano、Super、Ultraを含むこれらのモデルは、高速スループット、正確な推論、そして大規模な入力に対する一貫性を必要とするアプリケーション向けにカスタマイズされています。Nemotron 3シリーズは、MambaとTransformerを組み合わせたハイブリッドなエキスパート混合アーキテクチャ、インタラクティブ環境全体にわたる強化学習、そして100万トークンのコンテキストウィンドウを誇り、マルチエージェントアプリケーションにおける高スループットかつ長期的な推論を可能にします。

Nemotron 3モデルは、効率的なシーケンスモデリングのためのMambaレイヤー、高精度推論のためのTransformerレイヤー、そしてスケーラブルなコンピューティング効率のためのMoEルーティングを融合しています。このアーキテクチャは、プランニング、コンテキスト検査、ワークフロー実行などのタスクを同時に実行する必要があるエージェントクラスターに特に適しています。さらに、Nemotron 3は、オープンソースライブラリであるNeMo Gymが提供する様々な環境で強化学習を用いてトレーニングされ、現実世界のエージェントタスクに適合するようにモデルを適合させます。

NVIDIAのオープン性への取り組みは、現在提供中のNemotron 3 Nanoのリリースに明確に示されています。このモデルはNVIDIA GPU向けに最適化されており、高いスループット効率を実現するとともに、開発者にとって透明性とカスタマイズ性を維持するように設計されています。今後リリースされるSuperモデルとUltraモデルは、潜在MoEやマルチトークン予測といった機能により、推論の深度と効率をさらに向上させることが期待されます。

開発者は、モデル開発に使用されたオープンデータセット、事前トレーニングおよび強化学習レシピ、迅速な導入のための構成テンプレートなど、豊富なリソースにアクセスできます。NVIDIAのオープンソースアプローチは、開発者に独自のNemotronモデルのトレーニング、カスタマイズ、評価に必要なツールとデータを提供し、AIコミュニティにおけるイノベーションとコラボレーションを促進します。