Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Các cảm biến hữu ích, một công ty khởi nghiệp tập trung vào AI, đã công bố mô-đun AI sẵn sàng sử dụng, chi phí thấp đầu tiên trên thế giới, hỗ trợ giao tiếp ngôn ngữ tự nhiên, trực quan với các thiết bị điện tử. Điều này được thực hiện mà không cần kết nối internet hoặc đăng ký tài khoản, đảm bảo quyền riêng tư và thuận tiện cho người dùng.

Sản phẩm mới nhất của Bộ cảm biến hữu ích, mô-đun AI-In-A-Box, là mô-đun đầu tiên thuộc loại này hỗ trợ tương tác ngôn ngữ tự nhiên dựa trên LLM trên chip giá rẻ mà không cần kết nối internet. Mô-đun này có thể trả lời các truy vấn và giải quyết vấn đề theo cách tương tự như các công cụ AI nổi tiếng khác dựa trên mô hình ngôn ngữ quy mô lớn (LLM). Tuy nhiên, một tính năng độc đáo của mô-đun này là khả năng lưu trữ cục bộ các tệp LLM nhờ công nghệ nén và tăng tốc được phát triển bởi Bộ cảm biến hữu ích. Điều này cho phép bộ vi xử lý chi phí thấp của mô-đun hiểu và phản hồi các truy vấn và lệnh bằng ngôn ngữ tự nhiên được nói mà không cần tham khảo trung tâm dữ liệu.



Mô-đun AI-In-A-Box có khả năng hoạt động mà không cần kết nối internet, giải quyết hiệu quả những lo ngại của người dùng về quyền riêng tư, theo dõi hoặc phụ thuộc vào dịch vụ đám mây của bên thứ ba. Đây là vấn đề thường gặp với các sản phẩm và dịch vụ AI dựa trên LLM truyền thống do các công ty công nghệ lớn cung cấp.

Mô-đun AI-In-A-Box cung cấp hiệu suất xử lý ngôn ngữ tự nhiên (NLP) tương đương với các công cụ dựa trên LLM nổi tiếng khác. Họ có thể trả lời các câu hỏi, kể chuyện và truyện cười cũng như đưa ra ý kiến ​​về nhiều chủ đề khác nhau. Không giống như các công cụ khác yêu cầu GPU hiệu suất cao, chi phí cao được lưu trữ trong trung tâm dữ liệu, mô-đun AI-In-A-Box hoạt động bằng cách sử dụng một bộ vi xử lý lớp Arm Cortex-A đa năng duy nhất. . Hoạt động cục bộ này giúp loại bỏ nhu cầu đăng ký tài khoản hoặc cấu hình hệ thống, loại bỏ hoàn toàn những lo ngại về quyền riêng tư.