Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Predibase gần đây đã công bố LoRA Land, một bộ gồm hơn 25 mô hình nguồn mở phù hợp hoặc vượt xa chức năng của GPT-4.0. Các mô hình này giải quyết nhiều ứng dụng khác nhau như phân tích và tóm tắt tình cảm, giúp việc đào tạo các mô hình ngôn ngữ quy mô lớn (LLM) chính xác và chuyên biệt bằng cách sử dụng nền tảng Predibase trở nên dễ dàng và hợp lý. LoRA Land chứng minh cách nhiều LLM tinh chỉnh có thể được vận hành hiệu quả về mặt chi phí trên một GPU bằng cách tận dụng khung LoRAX và điểm cuối tinh chỉnh không cần máy chủ của Predibase.

Dev Rishi, Giám đốc điều hành của công ty, cho biết các tổ chức có xu hướng triển khai nhiều LLM phù hợp với các trường hợp sử dụng cụ thể và nhu cầu của khách hàng. Nghiên cứu nội bộ cho thấy rằng một phần đáng kể các tổ chức có kế hoạch triển khai nhiều LLM được tinh chỉnh trong năm tới. Predibase giải quyết các chi phí cao liên quan đến việc phát triển hoặc tinh chỉnh các mô hình GPT quy mô lớn bằng cách cung cấp nền tảng kết hợp các kỹ thuật tinh chỉnh hiệu quả, mang lại 25 Giờ đây có thể tạo ra các mô hình vượt xa

Cho đến nay, việc triển khai LLM tinh chỉnh vào môi trường sản xuất rất tốn kém vì mỗi mô hình đều yêu cầu tài nguyên GPU chuyên dụng. Tuy nhiên, nền tảng LoRAX của Predibase cho phép triển khai nhiều LLM được tinh chỉnh từ một GPU duy nhất, giúp giảm đáng kể chi phí và tăng tốc đổi mới. Andres Restrepo, Giám đốc điều hành của Enric.ai, cho biết việc chuyển sang Predibase đã tiết kiệm cho công ty hơn 1 triệu USD mỗi năm đồng thời tăng mức độ tương tác của người dùng thông qua mô hình thời gian thực độc quyền.

Việc tích hợp LoRAX vào nền tảng của Predibase và cung cấp điểm cuối tinh chỉnh không cần máy chủ cho phép khách hàng tránh được chi phí dành cho GPU chuyên dụng để phục vụ các mô hình. Cách tiếp cận này giúp tiết kiệm chi phí đáng kể, cơ sở hạ tầng có thể mở rộng và triển khai ngay lập tức, định vị Predibase như một giải pháp tiết kiệm chi phí cho các tổ chức muốn triển khai nhiều LLM chuyên dụng để nâng cao hoạt động của họ. Các bên quan tâm có thể khám phá các mô hình được tinh chỉnh của LoRA Land hoặc sử dụng nền tảng của Predibase để tinh chỉnh các mô hình của riêng họ và dự kiến ​​sẽ phân tích sâu hơn về điểm chuẩn so với GPT-4. Để biết thêm thông tin hoặc để bắt đầu dùng thử miễn phí, vui lòng truy cập trang web Predibase.