Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã giới thiệu NVIDIA NIM, một thành phần của NVIDIA AI Enterprise, để giúp phát triển và triển khai các ứng dụng doanh nghiệp hỗ trợ AI dễ dàng hơn. Công nghệ này là một tập hợp các dịch vụ siêu nhỏ dựa trên nền tảng đám mây nhằm mục đích đẩy nhanh thời gian tiếp thị các mô hình AI tổng quát và đơn giản hóa việc triển khai trên nhiều nền tảng khác nhau, bao gồm đám mây, trung tâm dữ liệu và máy trạm được tăng tốc GPU. NIM cung cấp các API tiêu chuẩn ngành cho phép các nhà phát triển dễ dàng tích hợp các khả năng AI vào ứng dụng của họ mà không cần phải tìm hiểu sự phức tạp của quá trình phát triển mô hình AI.

Việc áp dụng AI sáng tạo đã tăng lên đáng kể, với ChatGPT của OpenAI dẫn đầu, tiếp cận hơn 100 triệu người dùng ngay sau khi phát hành. Khi các tổ chức tiến tới triển khai vận hành toàn diện, họ phải đối mặt với thách thức trong việc tích hợp các mô hình AI với cơ sở hạ tầng hiện có và đảm bảo hệ thống được tối ưu hóa. NVIDIA NIM tìm cách giải quyết những thách thức này bằng cách cung cấp một lộ trình hợp lý để triển khai mô hình AI, cho phép các nhà phát triển tập trung vào việc tạo ra các chuyển đổi AI cho công ty của họ mà không cần các kỹ năng chuyên môn.

Thiết kế của NVIDIA NIM tập trung vào việc thu hẹp khoảng cách giữa phát triển AI và nhu cầu vận hành trong môi trường doanh nghiệp. Nó hỗ trợ triển khai trên nhiều cơ sở hạ tầng khác nhau và đi kèm với các thùng chứa dựng sẵn và biểu đồ Helm cho các mô hình được tối ưu hóa. Các vi dịch vụ được xác thực trên nền tảng phần cứng NVIDIA và nhà cung cấp dịch vụ đám mây để đảm bảo tính tương thích và khả năng kiểm soát. Ngoài ra, NIM còn cung cấp các mô hình dành riêng cho từng miền và công cụ suy luận được tối ưu hóa để cải thiện hiệu suất và độ chính xác của các ứng dụng doanh nghiệp.

Đối với các công ty muốn tùy chỉnh mô hình AI của mình, NVIDIA cung cấp các dịch vụ vi mô bổ sung để tinh chỉnh các mô hình trên các miền khác nhau. NVIDIA NeMo, BioNeMo và Picasso lần lượt cung cấp AI bằng giọng nói, khả năng khám phá thuốc và quy trình làm việc sáng tạo. Các nhà phát triển có thể truy cập nhiều mô hình AI khác nhau thông qua danh mục API NVIDIA và triển khai chúng cho các nhà cung cấp đám mây hoặc tại chỗ bằng Kubernetes. NVIDIA NIM đơn giản hóa quy trình triển khai AI, tối ưu hóa hiệu quả cơ sở hạ tầng và giảm chi phí đồng thời hỗ trợ nhiều trường hợp sử dụng AI. nước xốt: