Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Neuchips sẽ giới thiệu các giải pháp AI ASIC mới nhất của mình, chip tăng tốc AI Raptor Gen và thẻ tăng tốc Evo PCIe, tại CES 2024. Các sản phẩm này được thiết kế để nâng cao việc áp dụng mô hình ngôn ngữ quy mô lớn (LLM) cho doanh nghiệp và có chi phí cao hơn. - Thay thế hiệu quả cho các lựa chọn thị trường hiện tại. Giải pháp của công ty không chỉ tiết kiệm mà còn có hiệu quả sử dụng năng lượng cao, góp phần giảm tổng chi phí sở hữu.

Tại sự kiện CES sắp tới, Neuchips đã trình diễn khả năng của các sản phẩm Raptor và Evo bằng cách tăng tốc các chatbot AI như Whisper và Llama trong ứng dụng trợ lý AI cá nhân. Trình diễn này nhằm mục đích minh họa những lợi ích thực tế của lý luận LLM trong kinh doanh. Ngoài ra, Neuchips đang mời các doanh nghiệp trực tiếp trải nghiệm công nghệ của mình bằng cách cung cấp chương trình dùng thử miễn phí tại gian hàng 62700. Ở đó, các công ty cũng có thể tìm hiểu về tiềm năng tiết kiệm chi phí của các ứng dụng chuyển giọng nói thành văn bản.

Chip Raptor được thiết kế để mang lại trải nghiệm suy luận AI hiệu suất cao với tốc độ lên tới 200 tera hoạt động mỗi giây (TOPS) trên mỗi chip. Do khả năng tối ưu hóa hiệu quả và nén độc đáo của Neuchips, tính năng mạnh mẽ này đặc biệt phù hợp với các mô hình AI dựa trên máy biến áp và Gen-AI. Những cải tiến này được thiết kế đặc biệt cho các ứng dụng mạng thần kinh.

Bổ sung cho Raptor, card tăng tốc Evo là giải pháp tiêu thụ điện năng cực thấp tích hợp công nghệ PCIe Gen 5 và bộ nhớ LPDDR5 32GB. Đã đạt được băng thông bộ nhớ và I/O máy chủ đáng kể trong khi vẫn duy trì mức tiêu thụ điện năng vừa phải. Khả năng mở rộng của Evo cho phép hiệu suất tăng tuyến tính khi bổ sung chip, bảo vệ khoản đầu tư cho nhu cầu AI ngày càng phát triển. Neuchips cũng có kế hoạch ra mắt sản phẩm Viper, một giải pháp tăng tốc AI nhỏ gọn cho các trung tâm dữ liệu, vào nửa cuối năm 2024.