Keysight Technologies telah mengumumkan KAI Data Center Builder, rangkaian perangkat lunak baru yang meniru beban kerja dunia nyata untuk mengevaluasi dampak berbagai faktor pada kinerja pelatihan AI. Rangkaian perangkat lunak ini memungkinkan integrasi beban kerja pelatihan model bahasa berskala besar ke dalam desain dan validasi komponen infrastruktur AI, termasuk jaringan, host, dan akselerator. Integrasi ini bertujuan untuk meningkatkan sinergi antara desain perangkat keras dan algoritma pelatihan AI, yang pada akhirnya meningkatkan kinerja sistem.

KAI Data Center Builder mengatasi tantangan yang dihadapi operator AI saat mempercepat pelatihan model AI. Perangkat lunak ini menyediakan alat untuk mencoba strategi partisi model utama agar selaras dengan topologi dan konfigurasi kluster AI. Rangkaian perangkat lunak ini menyediakan pustaka emulasi beban kerja, termasuk model umum dan skema partisi, untuk memfasilitasi eksperimen dan memberikan wawasan tentang penyebab penurunan kinerja.

Operator AI dapat memanfaatkan KAI Data Center Builder untuk bereksperimen dengan parameter pemrosesan paralel dan memahami dampak pola komunikasi pada waktu penyelesaian pekerjaan. Aplikasi ini juga membantu mengidentifikasi hambatan dan menganalisis pemanfaatan jaringan, latency ekor, dan kemacetan. Dengan menghadirkan beban kerja AI yang realistis ke dalam pengaturan lab, perangkat lunak ini memungkinkan validasi dan pengoptimalan desain dan komponen klaster AI.

Ram Periakarpan, wakil presiden dan manajer umum di Keysight, menekankan pentingnya validasi tumpukan penuh dan pengoptimalan infrastruktur AI. Ia menyoroti manfaat memindahkan validasi ke tahap awal desain dan manufaktur untuk mencegah penundaan yang merugikan. KAI Data Center Builder merupakan bagian dari arsitektur kecerdasan buatan Keysight yang lebih luas, membantu pelanggan meningkatkan daya pemrosesan AI di pusat data melalui emulasi beban kerja AI yang nyata.