主要なCI/CDプラットフォームであるCircleCIは、gen2 GPUリソースクラスの実装を発表した。この新機能はAmazon EC2 G5インスタンスを活用し、最新世代のNVIDIA GPUを提供する。このプラットフォームには、AI/MLワークフロー専用に設計された新しいイメージも導入された。これらの機能強化により、AIイノベーションを加速するための強力でコスト効率の高いリソースが開発者に提供されるという。
GPUリソースクラスに加えて、CircleCIは大規模言語モデル（LLM）を利用したアプリケーションを構築するチーム向けの新機能をリリースした。これには、受信ウェブフック、Hugging Faceなどのツールのサポート、評価プラットフォームLangSmithとの統合が含まれる。同社は、Amazon SageMaker用のCircleCI Orbもリリースしたという。これは、ソフトウェアチームがMLモデルを大規模にデプロイおよび監視するのに役立つという。
CircleCIによって導入された新機能は、AIを活用したアプリケーション開発の複雑さを管理する上で非常に重要だ。これらのアプリケーションの構築とテストからトレーニングと監視に至る、構造化された自動化されたパイプラインを提供する。新しいインバウンドウェブフックはあらゆる変更ソースに適応できるため、CircleCIは市場で最も変更に依存しないCI/CDツールになる。このバージョン管理中心のアプローチからの移行により、ユーザーはさまざまなソースを通じてパイプラインをトリガーできるようになる。これは、AIを活用したアプリケーションがコード、データ、LLMと対話して新しい製品エクスペリエンスを推進する際に必要な変更だという。
カスタムのHugging Face統合は、パイプラインを開始するための新しいトリガーだ。開発者は、Hugging Faceのモデルが変更されるたびに自動化されたワークフローを実行できるようになり、アプリケーションが期待通りに機能し続けることが保証される。LangSmith統合は、CircleCIでサポートされる多くの評価プラットフォームの最初のものであり、非決定的な結果に対する堅牢なテストを可能にする。CircleCIの新しいOrb for Amazon SageMakerは、チームがモデルを本番環境にデプロイし、デプロイメントに問題がないか監視し、必要に応じてエンドポイントを迅速にロールバックすることを支援する。また、カナリアスタイルやブルー/グリーンスタイルのデプロイメントなど、さまざまなデプロイメント戦略も実行する。
出典：プレスリリース
