Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Amazon Web Services は NVIDIA とのパートナーシップを拡大し、NVIDIA NIM マイクロサービスを AI サービスに統合して AI 推論を強化し、生成 AI アプリケーションのレーテンシーを削減します。AWS re:Invent カンファレンスで発表されたこの動きは、AI モデルの展開を合理化し、AWS Marketplace、 Amazon Bedrock Marketplace、 Amazon SageMaker JumpStart を通じて開発者に NVIDIA に最適化された推論ソリューションを提供することを目指しています。

NVIDIA AI Enterprise ソフトウェア スイートのコンポーネントである NVIDIA の NIM マイクロサービスは、高いパフォーマンスと信頼性を備えた AI モデル推論の展開を容易にするように設計されています。NVIDIA Triton Inference Server や TensorRT などの堅牢なエンジンを活用するこれらのサービスは、現在 AWS でアクセス可能であり、幅広い AI モデルをサポートしています。開発者は、EC2、EKS、SageMaker などのさまざまな AWS プラットフォームでこれらのサービスを活用し、NVIDIA APIカタログから 100 を超えるビルド済みコンテナーを展開できます。

AWS での NIM マイクロサービスの利用可能性は、さまざまな分野の顧客やパートナーにメリットをもたらし、セキュリティを維持し、コストを削減しながら、生成 AI アプリケーションをより迅速に立ち上げることを可能にします。デジタル サービス プロバイダーの SoftServe は、NVIDIA NIM によって加速された複数の AI ソリューションをすでに AWS 上で開発しています。NVIDIA AI Blueprints に基づくこれらのソリューションは、AI アプリケーション開発を迅速化するように設計されており、AWS Marketplace で入手できます。

NVIDIA NIM マイクロサービスの利用に関心のある開発者は、特定のニーズに合わせて AWS での展開をカスタマイズできます。NVIDIA 向けに最適化されたさまざまな推論コンテナにアクセスすることで、AWS サービス全体で高性能な AI を実現できます。利用可能なモデルを調べるには、開発者は NVIDIA APIカタログにアクセスし、開発者ライセンスまたは NVIDIA AI Enterprise ソフトウェアの試用版をリクエストできます。