Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Microsoft đã công bố hướng dẫn và các tính năng được cập nhật cho Microsoft Foundry, định vị nền tảng này như một môi trường thống nhất để lựa chọn, đánh giá, triển khai và quản lý các mô hình AI trong suốt vòng đời ứng dụng. Công ty cho biết kỷ luật vận hành đã trở thành một thách thức lớn hơn so với việc truy cập mô hình.

Nền tảng này hỗ trợ các mô hình của Microsoft, mô hình mã nguồn mở, các sản phẩm của đối tác, mô hình tùy chỉnh và các biến thể được huấn luyện sau đó thông qua một quy trình làm việc chung. Microsoft cũng thông báo rằng Fireworks AI trên Foundry đã được phát hành rộng rãi, cung cấp cho doanh nghiệp quyền truy cập vào suy luận mô hình mở thông qua cơ sở hạ tầng được quản lý bởi Azure.

Theo công ty, các hệ thống AI trong sản xuất cần được đánh giá liên tục dựa trên các chỉ số về chất lượng, an toàn, latency, thông lượng và chi phí. Foundry cho phép các nhà phát triển kiểm tra mô hình với các tập dữ liệu độc quyền, so sánh kết quả đầu ra và đánh giá quy trình làm việc của tác nhân bằng các công cụ đánh giá tích hợp sẵn và có thể tùy chỉnh.

Microsoft cho biết các tổ chức có thể tối ưu hóa việc triển khai thông qua định tuyến thông minh, xử lý theo lô, bộ nhớ đệm, kiểm soát hạn mức và thông lượng được cấp phát. Khả năng quản trị, giám sát, ghi nhật ký kiểm toán và khôi phục được thiết kế để giúp các nhóm vận hành khối lượng công việc AI ở quy mô lớn đồng thời liên tục thích ứng với các mô hình và yêu cầu kinh doanh đang phát triển.