Neuchips akan memamerkan solusi AI ASIC terbarunya, chip akselerator AI Raptor Gen dan kartu akselerator Evo PCIe, di CES 2024. Produk-produk ini dirancang untuk meningkatkan adopsi model bahasa skala besar (LLM) bagi perusahaan dan menawarkan biaya yang lebih tinggi. - Alternatif efektif terhadap pilihan pasar saat ini. Solusi perusahaan ini tidak hanya ekonomis namun juga sangat hemat energi, sehingga berkontribusi terhadap total biaya kepemilikan yang lebih rendah.

Pada acara CES mendatang, Neuchips mendemonstrasikan kemampuan produk Raptor dan Evo dengan mempercepat chatbot AI seperti Whisper dan Llama dalam aplikasi asisten AI pribadi. Demonstrasi ini dimaksudkan untuk menggambarkan manfaat praktis penalaran LLM dalam bisnis. Selain itu, Neuchips mengundang bisnis untuk merasakan teknologinya secara langsung dengan menawarkan program uji coba gratis di stan 62700. Di sana, perusahaan juga dapat mempelajari potensi penghematan biaya dari aplikasi ucapan-ke-teks.

Chip Raptor dirancang untuk menghadirkan pengalaman inferensi AI berkinerja tinggi hingga 200 tera operasi per detik (TOPS) per chip. Karena kompresi unik dan optimalisasi efisiensi Neuchips, fitur canggih ini sangat cocok untuk model AI berbasis Gen-AI dan transformator. Peningkatan ini dirancang khusus untuk aplikasi jaringan saraf.

Melengkapi Raptor, kartu akselerasi Evo adalah solusi berdaya sangat rendah yang mengintegrasikan teknologi PCIe Gen 5 dan memori LPDDR5 32GB. I/O host dan bandwidth memori yang signifikan dicapai dengan tetap mempertahankan konsumsi daya yang moderat. Skalabilitas Evo memungkinkan kinerja meningkat secara linier dengan penambahan chip, sehingga melindungi investasi untuk tuntutan AI yang terus berkembang. Neuchips juga berencana meluncurkan produk Viper, solusi akselerasi AI ringkas untuk pusat data, pada paruh kedua tahun 2024.