Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Keysight Technologies đã công bố KAI Data Center Builder, một bộ phần mềm mới mô phỏng khối lượng công việc thực tế để đánh giá tác động của nhiều yếu tố khác nhau đến hiệu suất đào tạo AI. Bộ phần mềm này cho phép tích hợp khối lượng công việc đào tạo mô hình ngôn ngữ quy mô lớn vào thiết kế và xác thực các thành phần cơ sở hạ tầng AI, bao gồm mạng, máy chủ và bộ tăng tốc. Sự tích hợp này nhằm mục đích tăng cường sự phối hợp giữa thiết kế phần cứng và thuật toán đào tạo AI, cuối cùng là cải thiện hiệu suất hệ thống.

KAI Data Center Builder giải quyết những thách thức mà các nhà điều hành AI phải đối mặt khi đẩy nhanh quá trình đào tạo các mô hình AI. Nó cung cấp các công cụ để thử các chiến lược phân vùng mô hình chính để phù hợp với cấu trúc và cấu trúc cụm AI. Bộ phần mềm cung cấp một thư viện mô phỏng khối lượng công việc, bao gồm các mô hình và sơ đồ phân vùng chung, để tạo điều kiện cho việc thử nghiệm và cung cấp thông tin chi tiết về nguyên nhân gây suy giảm hiệu suất.

Các nhà điều hành AI có thể tận dụng KAI Data Center Builder để thử nghiệm các tham số xử lý song song và hiểu tác động của các mẫu giao tiếp đến thời gian hoàn thành công việc. Ứng dụng này cũng giúp xác định các nút thắt và phân tích mức sử dụng mạng, latency đuôi và tình trạng tắc nghẽn. Bằng cách đưa khối lượng công việc AI thực tế vào thiết lập phòng thí nghiệm, phần mềm cho phép xác thực và tối ưu hóa các thiết kế và thành phần cụm AI.

Ram Periakarpan, phó chủ tịch kiêm tổng giám đốc tại Keysight, nhấn mạnh tầm quan trọng của việc xác thực toàn bộ và tối ưu hóa cơ sở hạ tầng AI. Ông nhấn mạnh những lợi ích của việc chuyển xác thực sang các giai đoạn thiết kế và sản xuất trước đó để tránh sự chậm trễ tốn kém. KAI Data Center Builder là một phần của kiến ​​trúc trí tuệ nhân tạo rộng hơn của Keysight, giúp khách hàng mở rộng quy mô sức mạnh xử lý AI trong các trung tâm dữ liệu thông qua mô phỏng khối lượng công việc AI thực tế.