Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Kể từ khi phát hành lần đầu, mô hình Gemma đã chứng kiến sự tăng trưởng đáng kể với nhiều mô hình chuyên biệt và cải tiến do cộng đồng thúc đẩy. Bản bổ sung mới nhất cho hệ sinh thái này là bản phát hành chính thức của Gemma 3n, một kiến trúc ưu tiên thiết bị di động được thiết kế dành cho cộng đồng nhà phát triển. Nó tích hợp liền mạch với các công cụ phát triển phổ biến để giúp tinh chỉnh và triển khai ứng dụng trên thiết bị dễ dàng.

Gemma 3n đưa hiệu suất AI tại biên lên một tầm cao mới với khả năng đa phương thức có thể xử lý nhiều đầu vào khác nhau, bao gồm hình ảnh, âm thanh, video và văn bản. Các mô hình có hai kích thước, E2B và E4B, và mặc dù có số lượng tham số cao, nhưng mức sử dụng bộ nhớ tương đương với các mô hình nhỏ hơn. Hiệu quả này đạt được thông qua các cải tiến về kiến trúc như MatFormer, cho phép suy luận đàn hồi và tạo mô hình có kích thước tùy chỉnh.

Các mô hình Gemma 3n cũng có tính năng nhúng phân tầng (PLE) để cải thiện hiệu quả bộ nhớ, cho phép tính toán phần lớn các tham số trên CPU. Ngoài ra, chia sẻ bộ đệm KV đã được giới thiệu để tăng tốc quá trình xử lý đầu vào dài, điều này rất cần thiết cho các ứng dụng đa phương thức nâng cao. Khả năng nói đã được mở rộng với bộ mã hóa mới hỗ trợ chuyển giọng nói thành văn bản và dịch thuật, với kết quả tuyệt vời ở nhiều ngôn ngữ.

Ngoài sự phát triển của khả năng nói, Gemma 3n còn được trang bị bộ mã hóa tầm nhìn mới, MobileNet-V5-300M, được tối ưu hóa cho các thiết bị biên. Bộ mã hóa này hỗ trợ nhiều độ phân giải đầu vào và hoạt động tốt trong nhiều tác vụ hiểu hình ảnh và video. Những cải tiến về kiến trúc và kỹ thuật trích xuất tiên tiến mang lại thông lượng cao trong khi vẫn duy trì hiệu suất tiên tiến.

Hệ sinh thái Gemma 3n được hỗ trợ bởi nhiều nhà phát triển và nền tảng nguồn mở, và chúng tôi coi trọng khả năng truy cập và sự hợp tác của cộng đồng. Để khuyến khích sự đổi mới hơn nữa, Gemma 3n Impact Challenge đã được phát động, trao giải thưởng trị giá 150.000 đô la cho các sản phẩm tận dụng khả năng của mô hình để tạo ra tác động tích cực trong thế giới thực.