Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Kimi vừa công bố Kimi K2.5, mô hình mới nhất trong dòng sản phẩm của hãng được thiết kế để mang lại hiệu năng vượt trội trong nhiều tác vụ đòi hỏi cao, bao gồm quy trình làm việc AI, trò chuyện, suy luận, lập trình và toán học. Mô hình này tận dụng khung phần mềm mã nguồn mở Megatron-LM, giúp tăng cường hiệu quả tính toán và tối ưu hóa GPU để huấn luyện các mô hình Transformer quy mô lớn. Kimi K2.5 sở hữu kiến ​​trúc với 384 chuyên gia và một lớp dày đặc duy nhất, cho phép định tuyến chuyên biệt cho các phương thức khác nhau và đạt tỷ lệ kích hoạt tham số ấn tượng là 3,2% trên mỗi token.

Mô hình Kimi K2.5 sở hữu vốn từ vựng toàn diện với khoảng 164.000 token, bao gồm cả các token chuyên dụng cho xử lý hình ảnh, để hỗ trợ các chức năng xử lý hình ảnh. Mô hình này tích hợp MoonViT3d Vision Tower, một thành phần chuyển đổi hình ảnh và khung hình video thành thông tin nhúng và tăng cường khả năng xử lý hình ảnh. Các nhà phát triển quan tâm đến việc sử dụng Kimi K2.5 có thể truy cập vào điểm cuối tăng tốc GPU miễn phí để tạo mẫu thông qua Chương trình Nhà phát triển NVIDIA. Ngoài ra, một dịch vụ vi mô NVIDIA NIM để suy luận trong môi trường sản xuất cũng sẽ sớm được cung cấp.

Đối với những ai muốn tích hợp Kimi K2.5 vào hệ thống của mình, mô hình này tương thích với API do NVIDIA cung cấp, có thể truy cập bằng cách đăng ký với Chương trình Nhà phát triển NVIDIA. Ngoài ra, mô hình có thể được tùy chỉnh và tinh chỉnh bằng cách sử dụng khung NeMo, cung cấp một bộ thư viện mở để huấn luyện mô hình có khả năng mở rộng và thích ứng với các tác vụ đa phương thức cụ thể. Thư viện NeMo AutoModel trong khung này cho phép huấn luyện thông lượng cao và thử nghiệm nhanh chóng, cung cấp cho các nhà phát triển và nhà nghiên cứu các công cụ linh hoạt để thúc đẩy các dự án của họ. Để biết thêm thông tin về khả năng của Kimi K2.5, hãy truy cập các trang mô hình Hugging Face và Kimi API Platform. Hoặc, bạn có thể thử nghiệm mô hình trực tiếp trên nền tảng xây dựng của NVIDIA.