Advantechは、生成AIアプリケーションを強化するために設計された革新的なエッジAIサーバーソリューションを発表した。AMD EPYC 7003シリーズプロセッサーを搭載したAIR-520エッジAIサーバーには、PhisonのaiDAPTIV+テクノロジーを活用したNVIDIA RTX GPUカードとSQ ai100 AI SSDが組み込まれている。このサーバーは、大規模言語モデル(LLM)の展開を容易にするように設計されており、データの整理や分析などのタスクの自動化に役立ち、企業の生産性と意思決定を向上させる。

同社の最新製品には、AIR-520エッジAIサーバーの4つの異なるモデルが含まれており、それぞれがさまざまな要件とアプリケーションに対応するように作られている。モデルは、チャットボットや言語翻訳などのリアルタイムタスクに適したAIR-520-L13Bから、複雑なデータ分析に最適化され、包括的なAI SDKとプロフェッショナルサービスのためのNVIDIA AI Enterpriseが付属するL70B-Plusまで多岐にわたる。これらのカスタマイズされたソリューションは、コンテンツ作成から専門分野の分析まで、さまざまな企業のニーズに応えることを目的としている。

AdvantechのAIR-520ソリューションはコスト効率を考慮して設計されており、GPU vRAM機能を拡張するSQ ai100 AI SSDを搭載している。これにより、より少ないGPUカードでLLMを微調整できるため、コストが削減され、よりコンパクトなサーバー設計が可能になる。サーバーのサイズはデスクトップPCと同等で、ラックマウントも可能なため、企業のスペースとメンテナンスの考慮事項に対応できる。

開発をさらにサポートするために、アドバンテックは、Llama-2モデルがプリロードされたGenAIトレーニングスタジオを含むエッジAI SDKを提供している。このセットアップにより、顧客固有のLLMモデルのトレーニングと評価が簡素化され、チャットボットやデータ分析などのアプリケーションの開発プロセスが迅速化される。従って、AIR-520エッジAIサーバーは、データプライバシーを維持し、コストを最適化しながら生成AIを活用したいと考えている企業に包括的なソリューションを提供する。

出典:プレスリリース