Ilmuwan data sering kali ditugaskan untuk melatih model besar pada kumpulan data yang luas. XGBoost, kerangka kerja peningkatan gradien yang kuat, adalah alat yang populer karena kecepatan dan kinerjanya pada data tabel besar. Secara teori, penggunaan beberapa GPU akan meningkatkan daya komputasi secara signifikan dan mempercepat pelatihan model. Namun, banyak pengguna merasa kesulitan untuk memanfaatkan fungsi ini melalui Dask XGBoost, pustaka Python open source yang fleksibel untuk komputasi paralel. Pelatihan Dask XGBoost sering kali melibatkan penanganan kesalahan kehabisan memori (OOM) di berbagai tahap, termasuk memuat data pelatihan, mengonversi DataFrame dari format XGBoost ke DMatrix, dan selama pelatihan model sebenarnya. Mengatasi masalah memori ini memang sulit, namun potensi manfaat dari pelatihan multi-GPU menjadikannya bermanfaat. Artikel ini menjelaskan cara mengoptimalkan Dask XGBoost dengan banyak GPU dan mengelola kesalahan memori. Melatih XGBoost pada kumpulan data besar menghadirkan berbagai tantangan. Misalnya, kumpulan data Tantangan Klasifikasi Produk Otto Group, yang memiliki 180 juta baris dan 152 kolom dan total 110 GB saat dimuat ke dalam memori, digunakan untuk mendemonstrasikan masalah OOM dan solusinya. Masalah yang dibahas termasuk menginstal RAPIDS versi terbaru dan versi XGBoost yang benar, mengatur variabel lingkungan, menangani kesalahan OOM, dan memanfaatkan UCX-py untuk percepatan lebih lanjut. XGBoost di saluran Rapidsai dibangun dengan plugin RMM yang diaktifkan untuk memberikan kinerja optimal saat melakukan pelatihan multi-GPU.