Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

AIネイティブデータプラットフォーム企業であるWEKAは、カリフォルニア州アトランタとキャンベルで開催されたSupercomputing 2024で、新しいリファレンスアーキテクチャソリューションを発表しました。WEKA AI RAGリファレンスプラットフォーム（WARRP）は、エンタープライズAI推論環境の開発と展開を簡素化および合理化することを目的としています。このソリューションは、外部ソースから新しいデータを収集できるようにすることで大規模言語モデル（LLM）を強化する手法である検索拡張生成（RAG）を使用して、堅牢なインフラストラクチャフレームワークを作成するための青写真を開発者とクラウドアーキテクトに提供します。

S＆P Global Market Intelligenceによる最近の調査によると、生成AI（GenAI）は、他のアプリケーションを上回り、企業で最も広く使用されているAIモダリティになっています。LLMを展開する企業にとっての課題は、さまざまな環境から新しいデータを効果的に取得してコンテキスト化し、AI推論をサポートできるようにすることです。RAGはAI推論の主要手法であり、AIモデルの幻覚を減らし、出力の精度と信頼性を向上させるのに役立ちます。しかし、RAG フレームワークを大規模にサポートする本番環境の構築は、アーキテクチャとツールの急速な進化により複雑になっています。

WARRP は、世界クラスの AI 推論環境を迅速に開発および展開するための、モジュール コンポーネントの包括的な青写真を提供します。これは WEKA® Data Platform ソフトウェアに基づいており、NVIDIA NIM™ マイクロサービスや NVIDIA NeMo™ Retriever などの NVIDIA のエンタープライズ AI フレームワークを統合しています。このプラットフォームには、Run:ai の高度な AI ワークロードおよび GPU オーケストレーション機能や、Kubernetes や Milvus Vector DB などの一般的なデータ管理テクノロジも搭載されています。

WEKA の最高技術責任者である Shimon Ben-David 氏は、企業向け AI モデルの実行の精度、セキュリティ、コスト効率を向上させるために、RAG の実装プロセスを合理化することの重要性を強調しました。WARRP は、さまざまな LLM 実装をサポートする柔軟なフレームワークを提供し、本番環境での拡張性、適応性、優れたパフォーマンスを実現します。 WARRP リファレンス アーキテクチャの最初のバージョンは現在ダウンロード可能であり、Supercomputing 2024 の参加者は WEKA のブースを訪れて詳細とデモを確認できます。