Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

AI21 Labs gần đây đã công bố dòng mô hình Jamba 1.5, một bộ mô hình ngôn ngữ quy mô lớn (LLM) phức tạp phù hợp cho nhiều nhiệm vụ AI tổng quát khác nhau. Các nhiệm vụ này bao gồm tạo nội dung, tóm tắt tài liệu, so sánh và trích xuất thông tin chuyên sâu từ các bộ dữ liệu mở rộng. Mô hình này tận dụng kiến ​​trúc kết hợp kết hợp cấu trúc Transformer và Mamba với mô-đun Kết hợp các chuyên gia (MoE) để nâng cao hiệu quả, độ trễ và khả năng xử lý ngữ cảnh lâu dài. Nó cũng được thiết kế để dễ dàng triển khai trên các nền tảng tăng tốc, cho phép các doanh nghiệp chạy ứng dụng một cách an toàn và gần gũi với dữ liệu của họ.

Các mô hình Jamba 1.5, được NVIDIA tối ưu hóa và lưu trữ, hiện có thể truy cập được thông qua Danh mục API NVIDIA. Các mô hình này tích hợp kiến ​​trúc Mamba, nổi tiếng với khả năng quản lý ngữ cảnh lâu dài và lớp biến áp cung cấp khả năng suy luận và độ chính xác. Các mô-đun MoE tăng công suất mô hình mà không cần thêm nhu cầu tính toán. Mỗi khối Jamba bao gồm tám lớp với tỷ lệ chú ý đến Mamba là 1:7 và vừa với một GPU NVIDIA H100 80 GB. Mô hình này cũng tự hào có cửa sổ ngữ cảnh mã thông báo 256K, tương đương với khoảng 800 trang văn bản, cho phép xử lý và tạo phản hồi chính xác hơn.

Một tính năng đáng chú ý của mô hình Jamba 1.5 là chức năng gọi hàm được hỗ trợ bởi trao đổi dữ liệu JSON. Điều này giúp tăng cường khả năng tương tác của AI, cho phép các mô hình thực hiện các hành động phức tạp và xử lý các truy vấn dữ liệu có cấu trúc. Tính linh hoạt như vậy cho phép các mô hình được triển khai trong nhiều ngành khác nhau, từ tạo tài liệu tài chính đến hỗ trợ trong môi trường bán lẻ, tất cả đều có độ chính xác theo thời gian thực.

Ngoài ra, các mô hình Jamba 1.5 tương thích với Thế hệ tăng cường tìm kiếm (RAG), giúp nâng cao khả năng cung cấp phản hồi chính xác và phù hợp với ngữ cảnh. Cửa sổ ngữ cảnh mã thông báo mở rộng cho phép mô hình xử lý lượng lớn thông tin, khiến nó trở nên lý tưởng cho việc phân tích dữ liệu chi tiết. RAG đã được chứng minh là có lợi trong các môi trường có nền tảng kiến ​​thức rộng lớn và phân tán, vì mô hình này giúp đơn giản hóa việc tìm kiếm và tăng độ chính xác. Các bên quan tâm có thể khám phá mô hình Jamba 1.5 trong Danh mục API NVIDIA. Danh mục này có nhiều mô hình AI được hỗ trợ bởi vi dịch vụ NVIDIA NIM để tối ưu hóa việc triển khai trong các ứng dụng doanh nghiệp. nước xốt: