Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Advantech đã công bố giải pháp máy chủ AI tiên tiến được thiết kế để cung cấp năng lượng cho các ứng dụng AI tổng hợp. Được trang bị bộ xử lý dòng AMD EPYC 7003, máy chủ AI biên AIR-520 kết hợp thẻ GPU NVIDIA RTX và SSD SQ ai100 AI được hỗ trợ bởi công nghệ aiDAPTIV+ của Phison. Máy chủ được thiết kế để hỗ trợ triển khai các mô hình ngôn ngữ quy mô lớn (LLM) và giúp tự động hóa các tác vụ như tổ chức và phân tích dữ liệu, nâng cao năng suất và ra quyết định cho doanh nghiệp.

Sản phẩm mới nhất của công ty bao gồm bốn mẫu Máy chủ AI AIR-520 Edge khác nhau, mỗi mẫu được chế tạo để giải quyết các yêu cầu và ứng dụng khác nhau. Các mô hình từ AIR-520-L13B, phù hợp cho các tác vụ thời gian thực như chatbot và dịch ngôn ngữ, đến L70B-, được tối ưu hóa để phân tích dữ liệu phức tạp và đi kèm với SDK AI toàn diện và NVIDIA AI Enterprise cho các dịch vụ chuyên nghiệp. Các dòng sản phẩm bao gồm Plus. Các giải pháp tùy chỉnh này nhằm đáp ứng nhu cầu của nhiều doanh nghiệp khác nhau, từ sáng tạo nội dung đến phân tích chuyên ngành.

Giải pháp AIR-520 của Advantech được thiết kế chú trọng đến hiệu quả chi phí và được trang bị SSD SQ ai100 AI giúp mở rộng khả năng GPU vRAM. Điều này cho phép tinh chỉnh LLM với ít card GPU hơn, giảm chi phí và cho phép thiết kế máy chủ nhỏ gọn hơn. Các máy chủ có kích thước tương đương với máy tính để bàn và có thể được gắn trên giá đỡ để phù hợp với nhu cầu về không gian và bảo trì của doanh nghiệp.

Để hỗ trợ phát triển hơn nữa, Advantech cung cấp Edge AI SDK bao gồm GenAI Training Studio được tải sẵn các mô hình Llama-2. Thiết lập này giúp đơn giản hóa việc đào tạo và đánh giá các mô hình LLM dành riêng cho khách hàng, đẩy nhanh quá trình phát triển cho các ứng dụng như chatbot và phân tích dữ liệu. Do đó, Máy chủ AI AIR-520 Edge cung cấp giải pháp toàn diện cho các doanh nghiệp đang tìm cách tận dụng AI tổng hợp trong khi vẫn duy trì quyền riêng tư dữ liệu và tối ưu hóa chi phí.