Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

IBM đã công bố phiên bản thứ ba của dòng Granite với các mô hình ngôn ngữ mở nâng cao và các công cụ liên quan. Mẫu mới nhất trong dòng sản phẩm này được cho là có hiệu suất ngang bằng hoặc vượt trội so với các mẫu hàng đầu khác có kích thước tương tự trên nhiều tiêu chuẩn. Các mô hình AI này được tùy chỉnh cho các nhà phát triển và cung cấp các tính năng như lệnh gọi hàm để hỗ trợ nhiều loại ứng dụng, từ tạo văn bản đến chatbot dịch vụ khách hàng.

Bộ Granite 3.0 bao gồm cả mô hình ngôn ngữ quy mô lớn (LLM) chỉ có văn bản dày đặc và mô hình hỗn hợp các chuyên gia (MoE) đầu tiên của công ty, được tối ưu hóa để triển khai trong các tình huống có độ trễ thấp. Mô hình này được đào tạo trên bộ dữ liệu mở rộng gồm hơn 12 nghìn tỷ mã thông báo để cải thiện tốc độ và hiệu suất. Đặc biệt, mô hình sử dụng giải mã suy đoán, một kỹ thuật tiên tiến giúp tăng tốc độ tạo văn bản bằng cách đánh giá đồng thời nhiều mã thông báo tiềm năng.

Cam kết của IBM về sự an toàn và hiệu quả được thể hiện trong các mô hình Granite Granite, được thiết kế để đánh giá và phân loại các rủi ro tiềm ẩn trong đầu vào và đầu ra của mô hình. Các mô hình này giải quyết các mối quan tâm cụ thể đối với các nhiệm vụ tạo mở rộng tìm kiếm và đảm bảo rằng kết quả đầu ra có cơ sở và phù hợp. Dòng Granite có sẵn theo giấy phép Apache 2.0 và các tài nguyên dành cho nhà phát triển có thể truy cập được thông qua cộng đồng IBM trên GitHub.

Phối hợp với NVIDIA, các mô hình Granite của IBM hiện có thể truy cập được thông qua NVIDIA NIM, một khung vi dịch vụ giúp dễ dàng triển khai suy luận mô hình AI. NVIDIA NIM được thiết kế để tối ưu hóa hiệu suất và khả năng mở rộng, mang lại khả năng suy luận AI thông lượng cao, có thể thích ứng với các nhu cầu khác nhau. Các doanh nghiệp và nhà phát triển có thể dùng thử mô hình Granite bằng cách sử dụng Tín dụng đám mây NVIDIA miễn phí và cũng có thể triển khai nó trên bất kỳ nền tảng tăng tốc GPU NVIDIA nào.