Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

IBM は、オープン言語モデルと関連ツールの機能を強化したGraniteシリーズの 3 番目のイテレーションを発表しました。このシリーズの最新モデルは、さまざまなベンチマークで、同様の規模の他の主要モデルのパフォーマンスに匹敵するか、それを上回ると報告されています。これらの AI モデルは開発者向けにカスタマイズされており、関数呼び出しなどの機能を提供し、テキスト生成からカスタマー サービス チャットボットまで、幅広いアプリケーションをサポートしています。

Granite 3.0 スイートには、高密度のテキストのみの大規模言語モデル (LLM) と、同社初のエキスパート混合 (MoE) モデルの両方が含まれており、低レーテンシーが求められるシナリオでの展開に最適化されています。モデルは、速度とパフォーマンスの向上を目指して、12 兆を超えるトークンの広範なデータセットでトレーニングされています。特に、モデルは、複数の潜在的なトークンを同時に評価することでテキスト生成の速度を向上させる高度な手法である投機的デコードを採用しています。

IBM の安全性と効率性への取り組みは、モデルの入力と出力の潜在的なリスクを評価および分類するように設計されたGranite Graniteモデルに表れています。これらのモデルは、検索拡張生成タスクに特有の懸念に対処し、出力が十分に根拠があり関連性があることを保証します。Granite シリーズは Apache 2.0 ライセンスの下で利用可能で、開発者リソースはGitHubの IBM コミュニティを通じてアクセスできます。

NVIDIA とのコラボレーションにより、IBM のGraniteモデルは、AI モデル推論の導入を容易にするマイクロサービス フレームワークである NVIDIA NIM を通じてアクセスできるようになりました。NVIDIA NIM は、パフォーマンスとスケーラビリティを最適化するように設計されており、さまざまな需要に適応できる高スループットの AI 推論を提供します。企業や開発者は、無料の NVIDIA クラウド クレジットを使用してGraniteモデルを試すことができ、任意の NVIDIA GPU アクセラレーション プラットフォームに導入することもできます。