Groq, sebuah perusahaan solusi AI, mengumumkan demo pemrosesan AI yang memecahkan rekor menggunakan sistem LPU latensi sangat rendah. Pengumuman tersebut dibuat oleh CEO dan pendiri Jonathan Ross, yang akan melakukan demonstrasi di Global Emerging Technology Summit 2023. Sistem LPU Groq yang menjalankan Llama-2 70B dapat menghasilkan teks dengan kecepatan lebih dari 240 token per detik per pengguna, menandai kinerja tercepat pada model bahasa skala besar (LLM) dasar pada skala ini. GroqChip, fondasi sistem Unit Pemrosesan Bahasa Groq, menawarkan kinerja, efisiensi, kecepatan, dan akurasi. Lebih sederhana dalam desain dan tata letak, lebih cepat, dan lebih murah dibandingkan unit pemrosesan grafis (GPU). AI yang didukung oleh Groq bertujuan untuk mengaktifkan "antarmuka pengguna linguistik" yang memungkinkan pembuatan aplikasi AI dengan kecepatan yang belum pernah terjadi sebelumnya. CEO dan pendiri Groq Jonathan Ross mengatakan permintaan akan AI semakin cepat dan GPU sedang berjuang untuk mempertahankan kecepatan dan akurasi yang dibutuhkan. Dia mengatakan GPU menjadi mata rantai terlemah dalam perekonomian AI, dan Groq bermaksud untuk menetapkan standar baru untuk pengalaman AI sekaligus membuatnya tersedia untuk semua orang. Ross akan bergabung dengan tokoh-tokoh terkemuka lainnya di bidang AI pada tahap SCSP untuk mendukung upaya AS dalam memanfaatkan AI generatif untuk daya saing global. Bagi yang berminat menghadiri acara tersebut secara virtual dapat mendaftar secara online dan menjadwalkan demo teknologi eksklusif.