Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Google Cloud đã hợp tác với NVIDIA để tăng cường khả năng triển khai suy luận AI, tích hợp sức mạnh của Nền tảng AI NVIDIA với sự tiện lợi của điện toán không cần máy chủ. Mục tiêu của sự hợp tác này là hợp lý hóa quy trình triển khai và cải thiện hiệu suất của các ứng dụng AI trên đám mây.

Việc đưa GPU NVIDIA L4 Tensor Core vào dịch vụ Cloud Run của Google Cloud là một bước tiến lớn, cho phép người dùng triển khai các ứng dụng AI thời gian thực mà không gặp phải sự phức tạp trong quản lý cơ sở hạ tầng. Cloud Run, thời gian chạy vùng chứa không có máy chủ được quản lý hoàn toàn, hiện hỗ trợ các GPU này để tăng tốc AI theo yêu cầu, có thể mở rộng.

GPU L4 của Google được thiết kế để xử lý hiệu quả nhiều tác vụ AI như nhận dạng giọng nói và tìm kiếm hình ảnh, mang lại hiệu suất video AI cao hơn tới 120 lần so với các giải pháp CPU. Google Cloud là công ty đầu tiên cung cấp các GPU này, đồng thời tương thích với các dịch vụ khác của Google như Computing Engine và Kubernetes Engine.

Để đơn giản hóa hơn nữa việc áp dụng AI, NVIDIA đã giới thiệu NIM, một bộ dịch vụ vi mô gốc đám mây giúp tối ưu hóa hiệu suất của các mô hình AI. NIM cho phép bạn dễ dàng tích hợp các mô hình được tối ưu hóa trước, được đóng gói vào các ứng dụng của mình, tăng hiệu quả sử dụng tài nguyên và giảm thời gian phát triển. Các vi dịch vụ này có sẵn trên Google Cloud Marketplace và có thể được triển khai trên nhiều dịch vụ Google Cloud khác nhau. nước xốt: