Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

CircleCI, nền tảng CI/CD hàng đầu, đã công bố triển khai lớp tài nguyên GPU gen2. Tính năng mới này tận dụng các phiên bản Amazon EC2 G5 và cung cấp thế hệ GPU NVIDIA mới nhất. Nền tảng này cũng giới thiệu những hình ảnh mới được thiết kế dành riêng cho quy trình làm việc AI/ML. Những cải tiến này cung cấp cho các nhà phát triển các nguồn lực mạnh mẽ, tiết kiệm chi phí để tăng tốc đổi mới AI.

Ngoài các lớp tài nguyên GPU, CircleCI đã phát hành các tính năng mới dành cho các ứng dụng xây dựng nhóm sử dụng mô hình ngôn ngữ quy mô lớn (LLM). Điều này bao gồm hỗ trợ cho các webhooks đến, các công cụ như Ôm mặt và tích hợp với nền tảng đánh giá LangSmith. Công ty cũng phát hành CircleCI Orb cho Amazon SageMaker. Điều này sẽ giúp các nhóm phần mềm triển khai và giám sát các mô hình ML trên quy mô lớn.

Các khả năng mới được CircleCI giới thiệu rất quan trọng để quản lý sự phức tạp của việc phát triển các ứng dụng hỗ trợ AI. Nó cung cấp một quy trình có cấu trúc, tự động từ xây dựng và thử nghiệm đến đào tạo và giám sát các ứng dụng này. Webhook gửi đến mới có thể thích ứng với mọi nguồn thay đổi, khiến CircleCI trở thành công cụ CI/CD ít thay đổi nhất trên thị trường. Điều này giúp loại bỏ cách tiếp cận tập trung vào kiểm soát phiên bản cho phép người dùng kích hoạt các quy trình thông qua nhiều nguồn khác nhau. Đây là một thay đổi cần thiết khi các ứng dụng hỗ trợ AI tương tác với mã, dữ liệu và LLM để thúc đẩy trải nghiệm sản phẩm mới.

Tích hợp Khuôn mặt ôm tùy chỉnh là một yếu tố kích hoạt mới để bắt đầu quy trình. Giờ đây, các nhà phát triển sẽ có thể chạy quy trình làm việc tự động bất cứ khi nào mô hình Khuôn mặt ôm thay đổi, đảm bảo rằng ứng dụng của họ tiếp tục hoạt động như mong đợi. Tích hợp LangSmith là nền tảng đầu tiên trong số nhiều nền tảng đánh giá được CircleCI hỗ trợ, cho phép thử nghiệm mạnh mẽ các kết quả không xác định. Orb mới của CircleCI dành cho Amazon SageMaker giúp các nhóm triển khai mô hình vào sản xuất, giám sát quá trình triển khai để phát hiện sự cố và nhanh chóng khôi phục các điểm cuối nếu cần. Nó cũng thực hiện các chiến lược triển khai khác nhau như triển khai theo kiểu chim hoàng yến và kiểu xanh lam/xanh lục.