CircleCI, platform CI/CD terkemuka, mengumumkan penerapan kelas sumber daya GPU gen2. Fitur baru ini memanfaatkan instans G5 Amazon EC2 dan menyediakan GPU NVIDIA generasi terbaru. Platform ini juga memperkenalkan gambar baru yang dirancang khusus untuk alur kerja AI/ML. Penyempurnaan ini memberi pengembang sumber daya yang kuat dan hemat biaya untuk mempercepat inovasi AI.

Selain kelas sumber daya GPU, CircleCI telah merilis fitur baru untuk tim yang membangun aplikasi yang memanfaatkan model bahasa skala besar (LLM). Ini termasuk dukungan untuk webhook masuk, alat seperti Hugging Face, dan integrasi dengan platform penilaian LangSmith. Perusahaan juga merilis CircleCI Orb untuk Amazon SageMaker. Hal ini akan membantu tim perangkat lunak menerapkan dan memantau model ML dalam skala besar.

Kemampuan baru yang diperkenalkan oleh CircleCI sangat penting untuk mengelola kompleksitas pengembangan aplikasi yang didukung AI. Ini menyediakan jalur yang terstruktur dan otomatis mulai dari pembuatan dan pengujian hingga pelatihan dan pemantauan aplikasi ini. Webhook masuk yang baru dapat beradaptasi dengan sumber perubahan apa pun, menjadikan CircleCI alat CI/CD yang paling agnostik terhadap perubahan di pasar. Peralihan dari pendekatan yang berpusat pada kontrol versi ini memungkinkan pengguna memicu pipeline melalui berbagai sumber. Ini adalah perubahan yang diperlukan karena aplikasi yang didukung AI berinteraksi dengan kode, data, dan LLM untuk mendorong pengalaman produk baru.

Integrasi Wajah Pelukan Kustom adalah pemicu baru untuk memulai proses ini. Pengembang sekarang dapat menjalankan alur kerja otomatis setiap kali model Hugging Face berubah, memastikan bahwa aplikasi mereka terus berfungsi seperti yang diharapkan. Integrasi LangSmith adalah yang pertama dari banyak platform evaluasi yang didukung oleh CircleCI, memungkinkan pengujian yang kuat untuk hasil non-deterministik. Orb baru CircleCI untuk Amazon SageMaker membantu tim menerapkan model ke produksi, memantau penerapan jika ada masalah, dan dengan cepat mengembalikan titik akhir jika diperlukan. Ia juga melakukan berbagai strategi penerapan seperti penerapan gaya kenari dan gaya biru/hijau.