Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Google vừa công bố các tính năng mới cho Google AI Edge Portal, bổ sung các công cụ đánh giá hiệu năng và gỡ lỗi LLM trên thiết bị nhằm giúp các nhà phát triển tối ưu hóa các ứng dụng trí tuệ nhân tạo tạo sinh trên toàn hệ sinh thái Android .

Theo công ty, các nhà phát triển hiện có thể chạy các bài kiểm tra hiệu năng tự động trên hơn 120 loại thiết bị Android . Dịch vụ này đo thời gian khởi tạo, tốc độ điền trước dữ liệu, tốc độ giải mã và mức sử dụng bộ nhớ cao nhất để cung cấp cái nhìn tổng quan về hiệu năng thực tế của mô hình.

Bản cập nhật cũng giới thiệu Model Explorer, một công cụ trực quan hóa được thiết kế để đơn giản hóa việc nghiên cứu đồ thị mô hình. Tính năng này cho phép các nhà phát triển kiểm tra các lớp, so sánh các mô hình, xác định các vấn đề chuyển đổi và phân tích sự đánh đổi về độ chính xác liên quan đến lượng tử hóa.

Google cho biết những cải tiến này nhằm giải quyết các thách thức triển khai do cấu hình phần cứng đa dạng và nhu cầu ngày càng tăng đối với trí tuệ nhân tạo (AI) trên thiết bị gây ra. Nền tảng này hiện đang được cung cấp dưới dạng bản xem trước giới hạn cho các khách hàng Google Cloud đã được phê duyệt.