NeuRealityは、AIデータセンターのコストとエネルギー消費を大幅に削減できるNR1-S™ AI推論アプライアンスの素晴らしい成果を発表した。このイノベーションは、AIの電力使用の持続可能性と財務上の需要に対する懸念が高まる中で実現した。NR1-Sは、GPUなどの既存のAIアクセラレーターと連携して動作するように設計されており、競合するのではなく、パフォーマンスを向上させる。NeuRealityのテストでは、Qualcomm® Cloud AI 100 UltraおよびProアクセラレーターと組み合わせると、NR1-Sは従来のCPU中心のサーバーよりもパフォーマンスが優れ、大幅なコスト削減とエネルギー効率を実現することが示された。

同社の最近の技術ブログ記事では、生成型AIアプリケーションにとって重要な、さまざまなAIデータタイプで最大90%のコスト削減を実現するNR1-Sの能力が強調されている。さらに、このアプライアンスはCPU中心のシステムと比較して最大15倍のエネルギー効率を誇り、運用コストを大幅に削減する。NR1-SはAIアクセラレーターの完全な利用も保証し、CPU依存のシステムによく見られるパフォーマンスの問題を回避する。

実用面では、NeuRealityのNR1-Sは、実際のAIアプリケーションで優れたコスト効率とエネルギー効率を実証している。例えば、自動音声認識(ASR)テストでは、100万秒の音声を処理するコストが43セントからわずか5セントに削減された。ASRのエネルギー消費も改善され、NR1-Sは1ワット当たり7秒の音声を処理できる。これは従来のシステムの10倍です。重要なのは、NR1-Sは、使用されるAIアクセラレーターの数に関係なく、一貫したパフォーマンスを維持し、スケーラブルで効率的なAIインフラストラクチャーを保証することだ。

NeuRealityのソリューションは、金融サービス、ヘルスケア、政府など、幅広い業界で、経済的および環境的負担をかけずにAIの導入をより実現可能にするものだ。同社の経営陣は、イノベーションと持続可能性のバランスを取ることの重要性を強調し、コストやエネルギー目標を犠牲にすることなくAIの継続的な成長をサポートすることを目指している。NR1-Sにより、NeuRealityはAI推論を経済的にも環境的にも持続可能にするという重要な課題に取り組んでいる。

出典:プレスリリース