Evolusi kecerdasan buatan (AI) telah menetapkan tiga hukum penskalaan berbeda yang mengatur kinerja model AI: penskalaan pra-pelatihan, penskalaan pasca-pelatihan, dan penskalaan waktu pengujian. Hukum-hukum ini menjelaskan cara-cara halus untuk menerapkan sumber daya komputasi guna meningkatkan kemampuan AI. Hukum pengembangan AI asli, penskalaan pra-pelatihan, menunjukkan bahwa model yang lebih besar yang dilatih dengan lebih banyak data dan daya komputasi berkinerja lebih baik. Prinsip ini telah menghasilkan model-model canggih dengan miliaran parameter, yang membutuhkan sumber daya komputasi yang signifikan.

Penskalaan pasca-pelatihan memungkinkan organisasi untuk membangun model pra-pelatihan yang ada dan mengadaptasinya ke aplikasi spesifik mereka. Proses ini dapat memerlukan komputasi hingga 30x lebih banyak daripada pra-pelatihan awal, yang mendorong permintaan komputasi yang lebih cepat. Teknik seperti fine-tuning dan distilasi digunakan untuk meningkatkan efisiensi model dan relevansinya dengan tugas-tugas tertentu, yang selanjutnya meningkatkan kebutuhan akan solusi komputasi yang canggih.

Skala waktu pengujian, yang juga dikenal sebagai pemikiran panjang, adalah konsep baru di mana model AI menggunakan komputasi tambahan selama inferensi untuk memproses kueri yang kompleks. Metode ini memungkinkan AI untuk menalar masalah dan menghasilkan respons berkualitas tinggi, terutama untuk pertanyaan terbuka yang memerlukan beberapa langkah inferensi. Pendekatan ini mencerminkan pemecahan masalah manusia, di mana kita memecah masalah kompleks menjadi komponen yang lebih sederhana dan kemudian sampai pada solusi. Proses komputasi intensif ini dapat secara signifikan meningkatkan permintaan akan sumber daya komputasi yang cepat.

Kemajuan dalam model inferensi AI seperti o1-mini milik OpenAI dan Gemini 2.0 milik Google DeepMind menyoroti pentingnya penskalaan waktu pengujian. Model-model ini memerlukan komputasi dalam jumlah besar untuk memecahkan masalah yang rumit, yang menunjukkan masa depan di mana perusahaan harus meningkatkan daya komputasi mereka untuk mendukung alat inferensi AI yang canggih. Pengembangan model AI yang berkelanjutan dan kompleksitasnya yang semakin meningkat menyoroti peran penting yang dimainkan oleh komputasi yang dipercepat dalam memungkinkan AI untuk mengatasi berbagai tantangan di seluruh industri.