Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố một nền tảng AI mới, DGX Cloud Lepton, nhằm mục đích cải thiện năng suất của nhà phát triển bằng cách cung cấp quyền truy cập hợp nhất vào các tài nguyên GPU và dịch vụ AI. Hiện đang trong giai đoạn truy cập sớm, nền tảng này nhằm mục đích hợp lý hóa quy trình xây dựng, đào tạo và triển khai các ứng dụng AI thông qua tích hợp liền mạch với ngăn xếp phần mềm của NVIDIA, bao gồm các công cụ như NVIDIA NIM và NVIDIA NeMo, và hỗ trợ sắp tới cho NVIDIA Blueprints và NVIDIA Cloud Functions.

Nền tảng này đáp ứng nhu cầu ngày càng tăng về phát triển AI có khả năng mở rộng, cung cấp cho các nhà phát triển quyền truy cập vào một bộ GPU đa dạng trên mạng lưới các nhà cung cấp đám mây toàn cầu. DGX Cloud Lepton đơn giản hóa việc khám phá và phân bổ tài nguyên GPU, cho phép các nhà phát triển tối ưu hóa việc phân bổ khối lượng công việc dựa trên nhiều yếu tố bao gồm khu vực, chi phí và hiệu suất. Nó cũng cung cấp một môi trường phát triển nhất quán và giảm sự phức tạp của việc quản lý nhiều đám mây.

Nhiều nhà cung cấp dịch vụ đám mây toàn cầu, bao gồm Amazon Web Services, đã hợp tác với NVIDIA để cung cấp GPU của họ trên DGX Cloud Lepton. Sự hợp tác này mở rộng phạm vi của nền tảng và mang đến cho các nhà phát triển sự linh hoạt để đáp ứng các yêu cầu về chủ quyền dữ liệu và nhu cầu về vị trí dữ liệu chiến lược. Hugging Face cũng có kế hoạch tích hợp DGX Cloud Lepton vào Training Cluster as a Service của mình, mở rộng hơn nữa khả năng của nền tảng dành cho các nhà nghiên cứu AI.

NVIDIA khuyến khích các nhà phát triển khám phá tiềm năng của DGX Cloud Lepton thông qua chương trình truy cập sớm của mình. Nền tảng này cung cấp trải nghiệm người dùng nhất quán trên các giao diện và hỗ trợ nhiều loại khối lượng công việc, từ phát triển tương tác đến xử lý hàng loạt đến phục vụ mô hình thời gian thực. Thông qua DGX Cloud Lepton, NVIDIA hướng đến mục tiêu đơn giản hóa việc triển khai khối lượng công việc AI và máy học được chứa trong container và cung cấp hỗ trợ cho các sổ đăng ký container tuân thủ OCI, bao gồm sổ đăng ký container NGC của NVIDIA.