Gemini telah mengumumkan bahwa mereka telah menambahkan kemampuan pemantauan dan peringatan kinerja baru untuk model infrastruktur terkelolanya, tersedia di beranda Vertex AI, sehingga memudahkan pemeriksaan kesehatan model AI.

Pengguna dapat melihat informasi seperti penggunaan model AI, latency, dan tingkat kesalahan secara sekilas melalui dasbor yang terintegrasi dalam Cloud Monitoring, dan juga dapat mengatur peringatan untuk merespons dengan cepat saat terjadi masalah.

Pengguna Vertex AI dapat melihat metrik model keseluruhan dari tab Dasbor, dan dasbor Pemantauan Cloud memberikan wawasan yang lebih mendalam dan wawasan yang dapat disesuaikan untuk membantu memperkirakan kendala kapasitas, biaya, dan memecahkan masalah kesalahan.

Misalnya, jika Anda adalah SRE yang memantau kinerja chatbot layanan pelanggan baru, Anda dapat melihat metrik utama langsung dari halaman dasbor Vertex . Jika permintaan mengembalikan sejumlah besar kesalahan 429, Anda dapat mengambil tindakan seperti membeli throughput yang disediakan atau mengubah lokasi pemrosesan ML Anda. Anda juga dapat mengaktifkan peringatan yang direkomendasikan agar diberitahukan dengan cepat jika ada masalah.