Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Geminiは、マネージド基盤モデル向けに新たなパフォーマンス モニタリング機能とアラート機能を追加したと発表した。これらの機能はVertex AIのホームページから利用可能となり、AIモデルの健全性を簡単に確認できるようになった。

利用者は、Cloud Monitoringに組み込まれたダッシュボードを通じて、AIモデルの使用状況やレイテンシ、エラー率などの情報を一目で把握できる。また、問題が発生した際には、アラートを設定して迅速に対応することが可能だ。

Vertex AIを使用するユーザーは、[ダッシュボード] タブからモデルの全体的な指標を確認できる。Cloud Monitoringのダッシュボードを利用して、詳細情報の取得やカスタマイズが行えるため、容量の制約や費用の予測、エラーのトラブルシューティングが容易になる。

例えば、SREとして新しいカスタマーサービスchatbotの稼働を監視する場合、Vertexのダッシュボードページから直接、重要な指標を確認できる。リクエストが多数の429エラーを返した場合の対策として、プロビジョンドスループットの購入やML処理の場所の変更などが挙げられる。また、推奨されるアラートを有効にして、問題発生時に迅速に通知を受け取ることができる。