Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Cloudera đã giới thiệu một dịch vụ suy luận AI mới tận dụng khả năng tính toán tăng tốc của NVIDIA và các dịch vụ vi mô NIM để cải thiện đáng kể hiệu suất của các mô hình ngôn ngữ quy mô lớn (LLM). Dịch vụ này được thiết kế để dễ dàng triển khai và quản lý các mô hình AI, đồng thời giúp các doanh nghiệp tận dụng tối đa dữ liệu của mình để cải tiến AI. Sự hợp tác của Cloudera và NVIDIA nhằm giải quyết các thách thức tích hợp DX và AI trên nhiều ngành công nghiệp khác nhau.

Sản phẩm mới nhất của công ty nhằm giải quyết các rủi ro tuân thủ và mối lo ngại về quản trị trong việc triển khai AI tổng hợp (GenAI) bằng cách cung cấp một môi trường an toàn để phát triển và triển khai các mô hình AI Cloudera AI Inference đảm bảo rằng dữ liệu nhạy cảm vẫn nằm trong tầm kiểm soát của doanh nghiệp, cung cấp các tính năng bảo mật mạnh mẽ và khả năng chạy khối lượng công việc tại chỗ hoặc trên đám mây. Dịch vụ này được hỗ trợ bởi công nghệ NVIDIA, hứa hẹn cung cấp dữ liệu đáng tin cậy với tốc độ hiệu suất cao cho các ứng dụng AI đáng tin cậy.

Dịch vụ suy luận AI của Cloudera được thiết kế thân thiện với người dùng và tích hợp giao diện người dùng cũng như API với các bộ chứa vi dịch vụ NVIDIA NIM, loại bỏ nhu cầu về một hệ thống giám sát riêng. Dịch vụ này cũng tích hợp với Cơ quan đăng ký mô hình AI của Cloudera để cải thiện tính bảo mật và quản trị, cung cấp nền tảng thống nhất để quản lý tất cả các mô hình của bạn. Các nhà phát triển có thể mong đợi cải thiện hiệu suất lên tới 36 lần khi xây dựng và triển khai LLM cấp doanh nghiệp sử dụng GPU NVIDIA Tensor Core.

Nhà phân tích ngành Cloudera Mohan nhấn mạnh tầm quan trọng của dữ liệu an toàn, tuân thủ và được quản lý tốt đối với các công ty đầu tư vào GenAI. Suy luận AI của Cloudera tận dụng khả năng quản lý dữ liệu nâng cao và kiến ​​thức chuyên môn về AI của NVIDIA để đơn giản hóa sự phức tạp của quá trình sản xuất AI tư nhân trên quy mô lớn. Dịch vụ này bao gồm các tính năng như tự động thay đổi quy mô, theo dõi hiệu suất theo thời gian thực và bảo mật cấp doanh nghiệp dành cho những ai muốn bảo vệ dữ liệu của mình và triển khai hiệu quả các mô hình AI với tính linh hoạt và khả năng quản trị mà họ cần.