Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA は、AI エージェントの安全性と信頼性を強化するために設計された新しい NIM マイクロサービス スイートを発表しました。NVIDIA NeMo Guardrails コレクションの一部であるこれらのマイクロサービスは、AI アプリケーションにおける信頼性とコンプライアンスの重要なニーズに対応することを目的としています。精度とスケーラビリティを向上させるツールを提供することで、NVIDIA は企業が安全で倫理基準に準拠した生成 AI アプリケーションを作成できるようにしています。

NeMo Guardrails プラットフォームは、特に大規模な言語モデル アプリケーションにおける AI ガードレールの管理と統合の中心となります。このプラットフォームは、Amdocs、Cerence AI、Lowe's などの業界リーダーによってすでに利用されており、AI アプリケーションが潜在的なリスクから保護されていることを確認しています。NIM マイクロサービスにより、開発者は、安全であるだけでなく、特定のガイドライン内で状況に応じた適切な応答を提供できる AI エージェントを構築できます。

新たに導入されたマイクロサービスの 1 つは、コンテンツの安全性に焦点を当てており、Aegis Content Safety Dataset を使用してトレーニングされています。これは、公開されている高品質の人間による注釈付きデータセットです。このマイクロサービスは、AI 生成コンテンツをモデレートして、偏った出力や有害な出力を防ぐのに役立ちます。さらに、NVIDIA はトピック制御や脱獄検出用のマイクロサービスもリリースしており、さまざまな業界で AI エージェントの整合性を維持するのに貢献しています。

NVIDIA の AI のセキュリティ確保への取り組みはオープンソース コミュニティにも及び、開発者は NeMo Guardrails を使用して複数の AI ソフトウェア ポリシーを調整できます。このフレームワークは、安全性やパフォーマンスを損なうことなく大規模に展開できる AI システムの作成をサポートします。これらのツールを統合することで、Amdocs、Cerence AI、Lowe's などの企業は、より安全で信頼性の高い AI 主導のインタラクションを提供することで、顧客サービス機能を強化しています。