Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Gemini vừa thông báo rằng họ đã bổ sung các chức năng giám sát và cảnh báo hiệu suất mới cho các mô hình cơ sở hạ tầng được quản lý của mình, có sẵn trên trang chủ Vertex AI, giúp việc kiểm tra tình trạng của các mô hình AI trở nên dễ dàng hơn.

Người dùng có thể xem thông tin như mức sử dụng mô hình AI, latency và tỷ lệ lỗi chỉ bằng cách lướt qua bảng điều khiển được tích hợp trong Cloud Monitoring và cũng có thể đặt cảnh báo để phản hồi nhanh khi sự cố xảy ra.

Người dùng Vertex AI có thể xem số liệu mô hình tổng thể từ tab Bảng điều khiển và bảng điều khiển Giám sát đám mây cung cấp thông tin chi tiết sâu hơn và tùy chỉnh để giúp dự báo hạn chế về năng lực, chi phí và khắc phục sự cố.

Ví dụ, nếu bạn là SRE đang theo dõi hiệu suất của chatbot dịch vụ khách hàng mới, bạn có thể xem các số liệu chính trực tiếp từ trang bảng điều khiển Vertex . Nếu các yêu cầu trả về một số lượng lớn lỗi 429, bạn có thể thực hiện hành động như mua thông lượng được cung cấp hoặc thay đổi vị trí xử lý ML của mình. Bạn cũng có thể bật cảnh báo được đề xuất để được thông báo nhanh chóng nếu có sự cố.