FuriosaAI, perusahaan semikonduktor AI yang berbasis di California, baru-baru ini mengumumkan akselerator AI barunya RNGD di Hot Chips Symposium. Akselerator ini dirancang untuk meningkatkan efisiensi operasional pusat data, terutama dalam bahasa skala besar dan inferensi model multimodal. Didirikan oleh tiga insinyur dengan pengalaman di perusahaan teknologi terkemuka, perusahaan ini telah mengalami kemajuan pesat menuju perkembangan pesat RNGD sejak didirikan pada tahun 2017.

Perusahaan berhasil meluncurkan RNGD sepenuhnya setelah menerima sampel silikon pertama dari mitra manufaktur TSMC. Tonggak sejarah ini dibangun berdasarkan sejarah pengembangan teknologi FuriosaAI yang cepat dan efektif, termasuk peningkatan kinerja yang signifikan pada chip generasi pertama melalui peningkatan kompiler. RNGD telah menunjukkan hasil pengujian awal yang mengesankan, terutama pada model bahasa besar, dan mencapai kinerja throughput yang tinggi pada satu kartu PCIe.

June Paik, salah satu pendiri dan CEO FuriosaAI, menyoroti sifat RNGD yang berkelanjutan dan dapat diakses sebagai solusi komputasi untuk inferensi AI. Pak Pike menyatakan kebanggaannya atas dedikasi tim dalam menyukseskan peluncuran RNGD. CEO akan menyajikan tolok ukur kinerja di Hot Chips, memberikan wawasan tentang kemampuan akselerator, dan memberikan demonstrasi langsung dari kartu RNGD yang berfungsi penuh.

RNGD FuriosaAI membanggakan beberapa inovasi utama, termasuk arsitektur berbasis Tensor Contraction Processor (TCP) non-matmal yang menyeimbangkan efisiensi, kemampuan program, dan kinerja. Mitra perusahaan menghargai solusi inferensi AI yang mendukung komputasi ramah lingkungan dan mengurangi konsumsi daya sekaligus mempertahankan kinerja inferensi yang tinggi. RNGD saat ini tersedia untuk pelanggan akses awal, dengan rilis yang lebih luas direncanakan pada awal tahun 2025. Untuk mempelajari lebih lanjut tentang arsitektur dan kemampuan RNGD, kunjungi blog FuriosaAI.