Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Cluster Director giới thiệu một nền tảng quản lý mới nhằm đơn giản hóa việc triển khai và quản lý cơ sở hạ tầng AI quy mô lớn. Nền tảng này cung cấp giao diện trực quan, trải nghiệm Slurm được quản lý và bảng điều khiển khả năng quan sát được thiết kế để tăng hiệu quả của các tác vụ siêu máy tính AI.

Việc xây dựng các cụm AI và HPC thường liên quan đến cấu hình phức tạp trên toàn bộ hệ thống tính toán, mạng và lưu trữ. Một thách thức đã được giải quyết nhờ giao diện hợp nhất của Cluster Director, giúp hợp lý hóa quy trình và hợp nhất các tài nguyên được tối ưu hóa vào một môi trường thống nhất, dễ quản lý. LG AI Research báo cáo rằng thời gian triển khai cụm đã được rút ngắn đáng kể, nhấn mạnh rằng nền tảng này tiết kiệm đáng kể thời gian GPU cho các khối lượng công việc thực tế.

Bắt đầu với việc lựa chọn kiến trúc tham chiếu được tối ưu hóa, giao diện điều khiển thân thiện với người dùng của Cluster Director cho phép người dùng dễ dàng tạo, cập nhật và xóa cụm. Người dùng có thể tùy chỉnh cụm của mình với các cấu hình máy, mô hình sử dụng và tùy chọn lưu trữ khác nhau, đồng thời dễ dàng truy cập các hệ thống tệp hiệu suất cao. Nền tảng này cũng đơn giản hóa cấu hình mạng bằng cách tự động thiết lập các quy tắc tường lửa cần thiết và cho phép người dùng lựa chọn giữa mạng VPC mới và hiện có.

Môi trường Slurm được quản lý của nền tảng cung cấp khả năng lập lịch công việc có thể mở rộng với các phân vùng và tập hợp nút được cấu hình sẵn tùy chỉnh theo người dùng. Cluster Director tích hợp với cấu trúc mạng của Google, cho phép đặt các máy ảo (VM) gần nhau về mặt vật lý, và khả năng nhận biết cấu trúc mạng của trình lập lịch Slurm tối ưu hóa việc đặt cùng vị trí tác vụ để giảm thiểu latency. Ngoài ra, bảng điều khiển khả năng quan sát cung cấp thông tin chi tiết toàn diện về tình trạng và hiệu suất của cụm, trong khi các chẩn đoán nâng cao giúp xác định và giải quyết các bất thường về hiệu suất.