Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Groq, một công ty giải pháp AI, đã công bố bản demo xử lý AI phá kỷ lục sử dụng hệ thống LPU có độ trễ cực thấp. Thông báo này được đưa ra bởi Giám đốc điều hành và người sáng lập Jonathan Ross, người sẽ trình diễn tại Hội nghị thượng đỉnh công nghệ mới nổi toàn cầu năm 2023. Hệ thống Groq LPU chạy Llama-2 70B có thể tạo văn bản với tốc độ hơn 240 mã thông báo mỗi giây cho mỗi người dùng, đánh dấu hiệu suất nhanh nhất trên mô hình ngôn ngữ quy mô lớn cơ bản (LLM) ở quy mô này. GroqChip, nền tảng của hệ thống Đơn vị xử lý ngôn ngữ Groq, tự hào về hiệu suất, hiệu quả, tốc độ và độ chính xác. Nó đơn giản hơn về thiết kế và bố cục, nhanh hơn và rẻ hơn so với bộ xử lý đồ họa (GPU). AI do Groq cung cấp nhằm mục đích tạo ra "giao diện người dùng ngôn ngữ" cho phép tạo ra các ứng dụng AI với tốc độ chưa từng có. Giám đốc điều hành và người sáng lập Groq Jonathan Ross cho biết nhu cầu về AI đang tăng nhanh và GPU đang gặp khó khăn trong việc duy trì tốc độ và độ chính xác cần thiết. Ông cho biết GPU đang trở thành mắt xích yếu nhất trong nền kinh tế AI và Groq dự định thiết lập một tiêu chuẩn mới cho trải nghiệm AI đồng thời cung cấp chúng cho tất cả mọi người. Ross sẽ tham gia cùng những ngôi sao sáng giá khác trong lĩnh vực AI ở giai đoạn SCSP để hỗ trợ các nỗ lực của Hoa Kỳ nhằm thúc đẩy AI có khả năng tạo ra năng lực cạnh tranh toàn cầu. Những người quan tâm đến việc tham dự sự kiện hầu như có thể đăng ký trực tuyến và lên lịch cho buổi giới thiệu công nghệ độc quyền.