Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

JFrog Ltd đã công bố tính khả dụng chung của tích hợp với NVIDIA NIM Microservices, nâng cao Nền tảng chuỗi cung ứng phần mềm JFrog. Tích hợp được thiết kế để tạo điều kiện triển khai nhanh chóng các mô hình học máy và ngôn ngữ lớn trong khi tập trung vào bảo mật và quản trị. Sự hợp tác này nhằm giải quyết nhu cầu ngày càng tăng đối với các ứng dụng AI an toàn bằng cách cung cấp giải pháp hợp lý hóa quy trình phân phối trong khi vẫn đảm bảo compliance và xuất xứ.

Gal Marder, Giám đốc Chiến lược tại JFrog, đã giải quyết những thách thức mà các doanh nghiệp phải đối mặt khi áp dụng AI, nhấn mạnh sự phức tạp của việc bảo mật các ứng dụng chạy bằng AI. Sự hợp tác với NVIDIA sẽ cung cấp một giải pháp dễ triển khai giúp đẩy nhanh việc cung cấp các mô hình AI và ML trong khi giải quyết các nhu cầu về bảo mật và compliance . Động thái này diễn ra nhằm ứng phó với những lo ngại ngày càng tăng về tính bảo mật của các mô hình và nền tảng AI nguồn mở.

Theo IDC, đến năm 2028, phần lớn các tổ chức sẽ áp dụng các công cụ DevOps tích hợp nhiều chức năng vận hành khác nhau để nâng cao việc cung cấp phần mềm AI. Jim Mercer của IDC lưu ý tầm quan trọng của việc có một kho lưu trữ trung tâm các mô hình tuân thủ, được tối ưu hóa mà các nhà phát triển có thể triển khai nhanh chóng trong khi vẫn duy trì mức độ kiểm soát và khả năng hiển thị cao. Việc tích hợp Nền tảng JFrog với NVIDIA NIM nhằm mục đích cung cấp một kho lưu trữ như vậy và cho phép triển khai LLM cơ bản với các biện pháp bảo mật cấp doanh nghiệp.

Bản cập nhật JFrog Platform cung cấp quy trình làm việc ML và DevOps tích hợp, bảo mật đầu cuối và hiệu suất mô hình được tối ưu hóa. Pat Lee của NVIDIA nhấn mạnh tầm quan trọng của hiệu suất và bảo mật trong triển khai AI doanh nghiệp. Việc tích hợp cho phép các nhà phát triển tận dụng cơ sở hạ tầng điện toán tăng tốc của NVIDIA để xây dựng, triển khai và quản lý các ứng dụng AI ở quy mô lớn. Để biết thêm thông tin về việc tích hợp, hãy truy cập trang web JFrog hoặc tham gia cùng chúng tôi tại hội nghị NVIDIA GTC.