Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA は、エンタープライズ AI の導入を強化するために設計された生成 AI 推論マイクロサービスのスイートである NIM のリリースを発表しました。AI モデルの導入を拡張するオープンソース ソフトウェアである KServe と統合することで、NIM は Canonical、 Nutanix、 Red Hatなど、さまざまな企業のプラットフォームで利用できるようになります。このコラボレーションは、生成 AI アプリケーションの導入を簡素化し、他の大規模なエンタープライズ ソリューションと同様に管理しやすくすることを目指しています。

この提携により、NVIDIA のオープンソース コミュニティへの影響力は拡大し、ユーザーはシンプルなAPI呼び出しで NVIDIA AI Enterprise プラットフォームのパフォーマンス、サポート、セキュリティを活用できるようになります。Kubeflow プロジェクトから生まれた KServe は、Kubernetes ベースのシステムで、堅牢なクラウド アプリケーションとして AI 推論の管理を容易にします。複数の AI フレームワークをサポートし、新しい大規模言語モデル (LLM) の急速な出現に特に適しており、モデル更新のためのカナリア ロールアウトや、需要主導の展開のための GPU 自動スケーリングなどの機能を提供します。

NVIDIA の NIM は、IT 管理者にとって AI 導入の複雑さを合理化し、最適なアプリケーション パフォーマンスに不可欠な指標を提供します。使いやすさによって企業の業務が変革されると期待されており、Foxconn やServiceNowなどの企業はすでに NIM マイクロサービスを実装しています。KServe との統合により、NIM は幅広い Kubernetes プラットフォームで利用できるようになるため、企業全体で生成 AI 機能のアクセシビリティが向上します。

NVIDIA のオープンソース コミュニティへの取り組みは、KServe および関連プロジェクトへの積極的な貢献を通じてさらに強化されています。同社の Cloud Native Computing Foundation への関与は、生成 AI の進歩をサポートするという同社の献身的な姿勢を強調しています。企業や開発者は、NVIDIA APIカタログを通じて NIM の機能を探索できるようになりました。世界中の多数のパートナーが、生成 AI ソリューションを展開するためにこのテクノロジを採用しています。ソース：