Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Gemini やその他のマネージド基盤モデルは、 Vertex AI の最新アップデートの恩恵を受けるようになりました。このアップデートでは、プラットフォームのホームページから直接アクセスできる組み込みのパフォーマンス モニタリング機能とアラート機能が導入されています。この機能強化により、生成 AI モデルの健全性を追跡するプロセスが簡素化され、ユーザーは複雑な Cloud Console 指標を操作しなくても、使用状況の統計、レーテンシー、エラー率を簡単に確認できるようになります。

Vertex AI の新しいダッシュボードでは、モデルのパフォーマンスを包括的に概観できるため、ユーザーは詳細な指標を詳しく調べてビューをカスタマイズできます。この機能は、ユーザーが容量を管理し、コストを予測し、エラーをより効率的に診断できるように支援することを目的としています。さらに、このプラットフォームでは、AI モデルの応答に障害や遅延が発生した場合にユーザーに速やかに通知するアラートを設定する機能も提供されています。

たとえば、AI 駆動型カスタマー サービス チャットボットのパフォーマンス維持を担当するサイト信頼性エンジニア (SRE) は、潜在的な問題を強調表示するダッシュボードに簡単にアクセスできるようになりました。数回クリックするだけで、クエリ レート、スループット、レーテンシー、エラーに関する詳細な情報を提供する、意見が集約されたダッシュボードを表示できます。容量の問題を示す 429 エラーが発生した場合、ユーザーは追加のスループットの購入、処理場所の変更、リクエストの再スケジュールなどの是正措置を講じることができます。さらに、将来的にリクエストのかなりの割合で同様のエラーが発生した場合に通知されるアラートをアクティブ化することもできます。