Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố rằng mô hình AI đa phương thức "Gemma 3n" hiện đã có sẵn cho các nền tảng RTX và Jetson. Gemma 3n, được Google DeepMind xem trước, hiện bao gồm các khả năng xử lý giọng nói ngoài các khả năng văn bản và thị giác hiện có. Mô hình tích hợp Universal Speech Model, MobileNet v4 và MatFormer để xử lý giọng nói, thị giác và đầu vào văn bản tương ứng. Một tính năng đáng chú ý của Gemma 3n là Per-Lay Embeddings, giúp giảm đáng kể mức sử dụng RAM, cho phép mô hình E4B 8 tỷ tham số chạy trên cùng một dấu chân bộ nhớ như mô hình 4 tỷ tham số.

Dòng Gemma đặc biệt phù hợp với các thiết bị Jetson của NVIDIA, được thiết kế cho các ứng dụng AI biên như robot tiên tiến. Kiến trúc hiệu quả và sử dụng bộ nhớ động của các mô hình khiến chúng trở nên lý tưởng để triển khai trong các môi trường hạn chế về tài nguyên. NVIDIA cũng khuyến khích các nhà phát triển tham gia Gemma 3n thông qua Thử thách tác động của Kaggle, trao giải thưởng tiền mặt cho các dự án tận dụng công nghệ để tạo ra tác động xã hội trong nhiều lĩnh vực khác nhau.

Đối với các nhà phát triển NVIDIA RTX và những người đam mê AI, Ollama đơn giản hóa việc triển khai các mô hình Gemma 3n. Ollama CLI giúp dễ dàng cài đặt và chạy các mô hình trên cả thiết bị RTX và Jetson. NVIDIA đã hợp tác với Ollama để tối ưu hóa hiệu suất cho GPU RTX bằng cách tận dụng thư viện GGML ở phần phụ trợ.

Cuối cùng, NVIDIA đang tạo điều kiện tùy chỉnh các mô hình Gemma 3n thông qua khuôn khổ NeMo nguồn mở của mình. Khuôn khổ này hỗ trợ toàn bộ quy trình từ chuẩn bị dữ liệu đến đánh giá mô hình, cho phép các nhà phát triển tinh chỉnh các mô hình với dữ liệu doanh nghiệp cụ thể để cải thiện độ chính xác. Cam kết của NVIDIA đối với các dự án nguồn mở và tính minh bạch trong AI được thể hiện rõ trong các đóng góp của công ty cho cộng đồng, bao gồm việc phát hành hàng trăm dự án theo giấy phép nguồn mở. Các nhà phát triển có thể truy cập các mô hình như Gemma 3n E4B thông qua danh mục API của NVIDIA.