Cerebras Systems telah mengumumkan solusi inferensi AI baru yang disebut-sebut sebagai yang tercepat di dunia. Solusi ini dapat mengirimkan 1,800 token per detik ke model AI tertentu. Performa ini dikatakan 20x lebih cepat dibandingkan solusi berbasis GPU yang ada di cloud hyperscale. Perusahaan menekankan bahwa kecepatan ini tidak mengorbankan akurasi, menjaga akurasi mutakhir selama proses inferensi.

CEO perusahaan menyoroti pencapaian ini dengan mengatakan bahwa Cerebras telah mencetak rekor kecepatan baru dalam benchmark inferensi AI. Kemajuan ini dipandang sebagai langkah penting bagi pengembang yang membutuhkan aplikasi AI real-time atau berkapasitas tinggi. Layanan inferensi ditawarkan dengan harga yang kompetitif, dengan model bayar sesuai pemakaian mulai dari 10 sen per juta token.

Layanan inferensi Cerebras dibagi menjadi tiga tingkatan, melayani berbagai pengguna mulai dari individu hingga perusahaan besar. Tingkat gratis menawarkan akses API terbatas penggunaan yang melimpah, dan tingkat pengembang menawarkan opsi penerapan tanpa server yang hemat biaya. Tingkat Perusahaan disesuaikan untuk beban kerja berkelanjutan dengan dukungan khusus dan perjanjian tingkat layanan khusus.

Perusahaan juga menjalin kemitraan strategis untuk mempercepat pengembangan AI, berkolaborasi dengan berbagai pemimpin industri untuk menyediakan alat dan platform yang mendukung penciptaan aplikasi AI. Solusi inferensi Cerebras didukung oleh sistem CS-3 dan Wafer Scale Engine 3, yang menawarkan keunggulan bandwidth memori lebih besar dibandingkan pesaing untuk mendukung aplikasi AI generatif. Pengembang yang tertarik dengan layanan ini dapat mengakses Cerebras Inference API, yang dirancang agar mudah diintegrasikan dengan model AI yang ada.