Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Switch Science (Shinjuku-ku, Tokyo) thông báo rằng họ sẽ bắt đầu bán "Mô-đun M5Stack LLM" từ M5Stack (Thâm Quyến, Trung Quốc) từ ngày 15 tháng 1 năm 2025. Mô-đun này được thiết kế để sử dụng các mô hình ngôn ngữ quy mô lớn (LLM) ngay cả trong môi trường ngoại tuyến. Nó sử dụng thư viện Arduino/UIFlow và StackFlow và phù hợp với trợ lý giọng nói và điều khiển nhà thông minh.

"Mô-đun M5Stack LLM" được trang bị SoC Axera AX630C, có sức mạnh tính toán 3,2 TOPS và hỗ trợ mô hình Transformer. Nó có bộ nhớ LPDDR4 4 GB và bộ nhớ eMMC 32 GB và có thể xử lý nhiều mô hình AI cùng lúc. Nó tiêu thụ điện năng thấp ở mức khoảng 1,5 W, phù hợp để hoạt động lâu dài.

Mô-đun có micrô, loa, khe cắm thẻ TF, USB OTG và đèn trạng thái RGB tích hợp. Điều này hỗ trợ các ứng dụng yêu cầu phản hồi bằng giọng nói và truyền dữ liệu. Nó cũng giúp dễ dàng kết nối các thiết bị USB và cập nhật chương trình cơ sở.

"M5Stack LLM Module" được cài đặt sẵn mô hình ngôn ngữ Qwen2.5-0.5B và được trang bị các chức năng KWS, ASR, LLM và TTS. Trong tương lai, nó sẽ hỗ trợ các mô hình tiên tiến hơn và các chức năng nhận dạng hình ảnh. Nó có thể được mua từ cửa hàng web Switch Science và lô đầu tiên đi kèm với "LLM Debug Toolkit".