Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA và Microsoft đang hợp tác để tối ưu hóa công nghệ AI cho các nhà phát triển. Các mẫu AI mới nhất của Microsoft, bao gồm cả dòng Phi-3, được tùy chỉnh cho GPU NVIDIA. Các mô hình này có sẵn dưới dạng vi dịch vụ suy luận NVIDIA NIM được thiết kế để triển khai liền mạch trên nhiều nền tảng khác nhau. Ngoài ra, AI tối ưu hóa định tuyến cuOpt của NVIDIA và các dịch vụ vi mô khác hiện có sẵn trên Microsoft Azure Marketplace như một phần của bộ phần mềm NVIDIA AI Enterprise.

Sự hợp tác này cũng tập trung vào việc cung cấp cho các nhà phát triển các công cụ để tạo ra các ứng dụng AI hiệu suất cao cho PC được hỗ trợ bởi GPU NVIDIA GeForce RTX và NVIDIA RTX. Công việc này là một phần trong những nỗ lực không ngừng của chúng tôi nhằm hỗ trợ cộng đồng nhà phát triển và sẽ được giải thích thêm tại sự kiện dành cho nhà phát triển Microsoft Build ở Seattle.

Microsoft đang mở rộng mô hình ngôn ngữ nhỏ mở Phi-3 và giới thiệu các mô hình mới với các tham số khác nhau, bao gồm mô hình đa phương thức xử lý cả hình ảnh và văn bản. Các mô hình này được tối ưu hóa cho GPU NVIDIA sử dụng NVIDIA TensorRT-LLM, có sẵn dưới dạng NIM và cung cấp các vi dịch vụ suy luận nhanh với API tiêu chuẩn. Các nhà phát triển có thể truy cập các API này thông qua trang web NVIDIA và Azure Marketplace.

cuOpt, microservice AI tối ưu hóa tuyến đường của NVIDIA, hiện có sẵn trên Azure Marketplace. Dịch vụ này sử dụng các thuật toán song song để tăng cường quản lý hậu cần cho các ngành khác nhau. cuOpt đã đạt được nhiều kỷ lục về tiêu chuẩn định tuyến và cho thấy tiềm năng giảm đáng kể chi phí hậu cần và chuỗi cung ứng. Các nhà phát triển có thể tích hợp cuOpt với Azure Maps để quản lý hậu cần theo thời gian thực và hưởng lợi từ các công cụ quản lý cũng như tính năng bảo mật của thị trường.

Cuối cùng, NVIDIA và Microsoft đang nỗ lực cải thiện hiệu suất AI trên PC có GPU NVIDIA RTX. Cả hai công ty đều đang cung cấp cho các nhà phát triển Windows những tối ưu hóa và tích hợp mới để tăng tốc các ứng dụng AI. Những cải tiến này bao gồm suy luận nhanh hơn cho các mô hình ngôn ngữ lớn và tối ưu hóa hiệu suất cho các mô hình AI như Khuếch tán ổn định và Thì thầm. Sự hỗ trợ của Windows dành cho PyTorch thông qua DirectML tận dụng sức mạnh của hơn 100 triệu GPU RTX và làm cho nhiều mẫu Ôm Mặt khác nhau trở nên tương thích nguyên bản. nước xốt: