Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

AI21 Labs は最近、さまざまな生成 AI タスクに適した大規模言語モデル (LLM) の洗練されたスイートである Jamba 1.5 モデル ファミリを発表しました。これらのタスクには、コンテンツの作成、ドキュメントの要約、比較、および広範なデータセットからの洞察の抽出が含まれます。このモデルは、Transformer と Mamba 構造を専門家混合 (MoE) モジュールと組み合わせたハイブリッド アーキテクチャを活用し、効率、レーテンシー、および長いコンテキストの処理を強化します。また、高速化されたプラットフォームに簡単に展開できるように設計されているため、企業はアプリケーションを安全に、かつデータの近くで運用できます。

NVIDIA によって最適化されホストされている Jamba 1.5 モデルは、NVIDIA APIカタログからアクセスできるようになりました。これらのモデルは、長いコンテキスト管理で知られる Mamba アーキテクチャと、精度と推論機能を提供するトランスフォーマー レイヤーを統合しています。MoE モジュールは、追加の計算要求なしでモデル容量を増やします。各 Jamba ブロックは、アテンション対 Mamba 比率が 1:7 の 8 つのレイヤーで構成され、単一の NVIDIA H100 80 GB GPU に収まります。モデルはまた、約 800 ページのテキストに相当する 256K トークン コンテキスト ウィンドウを誇り、より正確な処理と応答生成を可能にします。

Jamba 1.5 モデルの注目すべき機能は、 JSONデータ交換によってサポートされている関数呼び出し機能です。これにより AI のインタラクション性が強化され、モデルは複雑なアクションを実行し、構造化データ クエリを処理できるようになります。このような汎用性により、財務文書の生成から小売環境での支援まで、さまざまな業界にモデルを展開でき、すべてリアルタイムの精度で実行できます。

さらに、Jamba 1.5 モデルは、検索拡張生成 (RAG) と互換性があり、正確でコンテキストに適した応答を提供する能力が強化されています。拡張されたトークン コンテキスト ウィンドウにより、モデルは大量の情報を処理できるため、詳細なデータ分析に最適です。RAG は、モデルが検索を簡素化し、精度を高めるのに役立つため、広大で分散した知識ベースを持つ環境で有益であることが証明されています。関心のある方は、NVIDIA APIカタログで Jamba 1.5 モデルを調べることができます。このカタログには、エンタープライズ アプリケーションでの展開を最適化するために NVIDIA NIM マイクロサービスによってサポートされているさまざまな AI モデルが掲載されています。ソース：