Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Gemini và các mô hình nền tảng được quản lý khác hiện được hưởng lợi từ bản cập nhật mới nhất của Vertex AI, giới thiệu khả năng giám sát hiệu suất và cảnh báo tích hợp có thể truy cập trực tiếp từ trang chủ của nền tảng. Cải tiến này đơn giản hóa quy trình theo dõi tình trạng của các mô hình AI tạo sinh, cho phép người dùng dễ dàng xem số liệu thống kê sử dụng, latency và tỷ lệ lỗi mà không cần phải điều hướng các số liệu phức tạp của Cloud Console.

Bảng điều khiển mới của Vertex AI cung cấp tổng quan toàn diện về hiệu suất mô hình, cho phép người dùng phân tích sâu vào các số liệu chi tiết và tùy chỉnh chế độ xem của họ. Tính năng này nhằm mục đích giúp người dùng quản lý năng lực, dự báo chi phí và chẩn đoán lỗi hiệu quả hơn. Ngoài ra, nền tảng này còn cung cấp khả năng thiết lập cảnh báo sẽ thông báo cho người dùng ngay lập tức nếu có bất kỳ lỗi hoặc chậm trễ nào trong phản hồi của mô hình AI của họ.

Ví dụ, các kỹ sư về độ tin cậy của trang web (SRE) chịu trách nhiệm duy trì hiệu suất của chatbot dịch vụ khách hàng do AI điều khiển hiện có thể dễ dàng truy cập vào bảng thông tin nêu bật các vấn đề tiềm ẩn. Chỉ với một vài cú nhấp chuột, họ có thể xem bảng thông tin có ý kiến ​​cung cấp thông tin chi tiết về tỷ lệ truy vấn, thông lượng, latency và lỗi. Nếu xảy ra lỗi 429, cho biết sự cố về năng lực, người dùng có thể thực hiện hành động khắc phục như mua thêm thông lượng, thay đổi vị trí xử lý hoặc lên lịch lại yêu cầu. Ngoài ra, họ có thể kích hoạt cảnh báo sẽ thông báo cho họ nếu một tỷ lệ phần trăm đáng kể các yêu cầu gặp phải lỗi tương tự trong tương lai.