Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Groq trình diễn hiệu suất xử lý AI phá kỷ lục tại sự kiện
Generatived
17:33 21/9/23
Groq, một công ty giải pháp AI, đã công bố bản demo xử lý AI phá kỷ lục sử dụng hệ thống LPU có độ trễ cực thấp. Thông báo này được đưa ra bởi Giám đốc điều hành và người sáng lập Jonathan Ross, người sẽ trình diễn tại Hội nghị thượng đỉnh công nghệ mới nổi toàn cầu năm 2023. Hệ thống Groq LPU chạy Llama-2 70B có thể tạo văn bản với tốc độ hơn 240 mã thông báo mỗi giây cho mỗi người dùng, đánh dấu hiệu suất nhanh nhất trên mô hình ngôn ngữ quy mô lớn cơ bản (LLM) ở quy mô này. GroqChip, nền tảng của hệ thống Đơn vị xử lý ngôn ngữ Groq, tự hào về hiệu suất, hiệu quả, tốc độ và độ chính xác. Nó đơn giản hơn về thiết kế và bố cục, nhanh hơn và rẻ hơn so với bộ xử lý đồ họa (GPU). AI do Groq cung cấp nhằm mục đích tạo ra "giao diện người dùng ngôn ngữ" cho phép tạo ra các ứng dụng AI với tốc độ chưa từng có. Giám đốc điều hành và người sáng lập Groq Jonathan Ross cho biết nhu cầu về AI đang tăng nhanh và GPU đang gặp khó khăn trong việc duy trì tốc độ và độ chính xác cần thiết. Ông cho biết GPU đang trở thành mắt xích yếu nhất trong nền kinh tế AI và Groq dự định thiết lập một tiêu chuẩn mới cho trải nghiệm AI đồng thời cung cấp chúng cho tất cả mọi người. Ross sẽ tham gia cùng những ngôi sao sáng giá khác trong lĩnh vực AI ở giai đoạn SCSP để hỗ trợ các nỗ lực của Hoa Kỳ nhằm thúc đẩy AI có khả năng tạo ra năng lực cạnh tranh toàn cầu. Những người quan tâm đến việc tham dự sự kiện hầu như có thể đăng ký trực tuyến và lên lịch cho buổi giới thiệu công nghệ độc quyền.
Chia sẻ bài viết này:
Tin tức mới nhất
Pacificnet mở rộng phạm vi dịch vụ quản lý và xử lý thiết bị CNTT (ITAD) cho cơ sở hạ tầng AI.
9:00 7/7/26
Pacificnet vừa thông báo mở rộng dịch vụ quản lý tài sản CNTT lỗi thời (ITAD) của mình, không chỉ giới hạn ở máy tính cá nhân mà còn bao gồm cả thiết bị cơ sở hạ tầng trí tuệ nhân tạo (AI)
Nayutam hợp tác với Dock Labs để phát triển công nghệ nhận dạng AI.
9:00 7/7/26
Nayutam vừa công bố hợp tác chiến lược với Dock Labs để mở rộng hợp tác tại thị trường doanh nghiệp Nhật Bản.


