Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Predibaseは最近、GPT-4.0の機能と同等かそれを超える25以上のオープンソースモデルのスイートであるLoRA Landを発表した。これらのモデルは、センチメント分析や要約などのさまざまなアプリケーションに対応しており、Predibaseプラットフォームを使用して正確で特殊な大規模言語モデル（LLM）をトレーニングすることが簡単かつ手ごろな価格であることが強調されている。LoRA Landは、LoRAXフレームワークとPredibaseのサーバーレス微調整エンドポイントを活用し、複数の微調整LLMを単一のGPUでコスト効率よく運用できる方法を示している。

同社のCEOであるDev Rishi氏は、特定のユースケースや顧客のニーズに合わせて調整された複数のLLMを導入する組織が増えている傾向にあると述べた。内部調査によると、組織のかなりの部分が、今後1年以内に複数の微調整されたLLMを導入することを計画している。Predibaseは、効率的な微調整技術を組み込んだプラットフォームを提供することで、大規模なGPTモデルの開発または微調整に伴う高コストに対応し、平均GPUコストが1つ当たり8ドル未満で25を超えるモデルを作成できるようにした。

これまで、微調整されたLLMを運用環境に導入するには、モデルごとに専用のGPUリソースが必要なため、コストがかかった。ただし、PredibaseのLoRAXプラットフォームを使用すると、単一のGPUから多数の微調整されたLLMの展開が可能になり、コストが大幅に削減され、イノベーションが促進される。Enric.aiのCEO、Andres Restrepo氏は、Predibaseへの移行により、専用のリアルタイムモデルを通じてユーザー エンゲージメントを強化しながら、同社は年間100万ドル以上を節約できたと述べた。

PredibaseのプラットフォームへのLoRAXの統合とサーバーレス微調整エンドポイントの提供により、顧客はモデルを提供するための専用GPUの出費を回避できる。このアプローチは、大幅なコスト削減、スケーラブルなインフラストラクチャー、即時導入を実現し、Predibaseを、さまざまな特殊なLLMを導入して運用を強化しようとしている組織にとって、コスト効率の高いソリューションとして位置付けている。興味のある方は、LoRA Landの微調整されたモデルを探索したり、Predibaseのプラットフォームを使用して独自のモデルを微調整したりすることができ、GPT-4に対するベンチマークのさらなる分析が期待される。詳細について、または無料トライアルを開始するには、Predibase ウェブサイトにアクセスしてください。