Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố Run:ai, một nền tảng điều phối AI gốc Kubernetes, giải quyết những thách thức mà môi trường Kubernetes gặp phải, chẳng hạn như việc sử dụng GPU không hiệu quả và khó khăn trong việc thực thi quản trị. Run:ai cho phép lập lịch trình linh hoạt, dựa trên chính sách cho tài nguyên GPU, tối ưu hóa việc sử dụng tài nguyên và đảm bảo ưu tiên khối lượng công việc cho các nhóm.

Việc tích hợp NVIDIA Run:ai với Microsoft Azure giúp tăng cường khả năng quản lý khối lượng công việc AI trên hệ thống máy ảo tăng tốc GPU của Azure . Các máy ảo này, được hỗ trợ bởi GPU NVIDIA, được thiết kế cho nhiều tác vụ khác nhau, từ học sâu đến chơi game trên nền tảng đám mây. Phần mềm Run:ai tận dụng Dịch vụ Azure Kubernetes (AKS) để điều phối và ảo hóa hiệu quả các tài nguyên GPU, mang lại trải nghiệm liền mạch cho các dự án AI.

Dịch vụ Azure Kubernetes (AKS) được NVIDIA Run:ai nâng cao hơn nữa, bổ sung một lớp thông minh quản lý tài nguyên GPU một cách linh hoạt. Tích hợp này cho phép lập lịch hiệu quả cho khối lượng công việc AI, giảm thời gian nhàn rỗi của GPU và tối đa hóa thông lượng. Dịch vụ này cũng hỗ trợ các chính sách hạn ngạch trong AKS, đảm bảo quyền truy cập và quản trị công bằng giữa các nhóm khác nhau.

NVIDIA Run:ai hỗ trợ chiến lược cơ sở hạ tầng lai, kết hợp trung tâm dữ liệu tại chỗ với nền tảng đám mây. Phương pháp này mang lại lợi ích cho các doanh nghiệp cần cả khả năng kiểm soát cục bộ cho khối lượng công việc nhạy cảm và khả năng mở rộng tài nguyên đám mây. Run:ai hiện có sẵn dưới dạng ưu đãi riêng trên Microsoft Marketplace, cho phép triển khai và tích hợp linh hoạt vào các thỏa thuận doanh nghiệp hiện có, giúp đơn giản hóa quy trình áp dụng cho các tổ chức muốn nâng cao hoạt động AI của mình.