Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

生成AI は、生産性を高める一連のアプリケーションを提供することで、企業の革新と業務の合理化の方法を変えつつあります。しかし、大規模な基礎モデルをエンタープライズ システムに統合するには、課題がないわけではありません。これらのモデルは、多くの場合、コストが高く、パフォーマンスが遅く、データ プライバシーの問題が発生するため、企業がサードパーティの言語モデル プロバイダーと機密情報を共有することを躊躇する可能性があります。さらに、これらのモデルは一般的なタスクには適していますが、特殊なエンタープライズ タスクで高い精度で実行するには、通常、大幅なカスタマイズが必要です。

これらのハードルに対処するため、業界では小規模言語モデル (SLM) の微調整に目を向けています。これらの SLM は、大規模な SLM のよりコンパクトなバージョンであり、より高速でコスト効率に優れながら、同様のパフォーマンス レベルを達成できます。また、オンプレミスや仮想プライベート クラウドなどの企業独自のインフラストラクチャ内に展開できるため、機密データの保護が確保されます。これらの利点があるにもかかわらず、SLM の微調整には独自の課題が伴います。特に、高品質のラベル付きデータが必要になるため、作成にコストと時間がかかる場合があります。

このプロセスを効率化するために、データ フライホイール戦略を利用した新しい自動微調整方法が導入されました。このフィードバック主導のアプローチは、反復的な強化を通じてモデルのパフォーマンスを徐々に向上させます。この方法ではカリキュラム学習を採用し、人間の学習プロセスを模倣して、トレーニング データが段階的に複雑性を高めながら導入されます。大規模な「教師」モデルを使用して合成トレーニング データを生成および構造化し、小さなモデルの微調整を最適化して、最小限の人的入力で複雑なタスクを処理します。

実際には、この自動化された微調整手法は、特にコードレビューの自動化の分野で有望な結果を示しています。たとえば、微調整された SLM は、コストとレーテンシーを抑えながら、重大度評価や説明生成などのタスクで、より大規模なモデルよりも精度が 18% 向上しました。このアプローチは、AI 統合のためのスケーラブルでコスト効率の高いソリューションを提供するだけでなく、幅広いエンタープライズ ユースケースに適用できる多目的な方法論としても機能します。