Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Neuchips は、最新の AI ASIC ソリューションである Raptor Gen AI アクセラレータ チップと Evo PCIe アクセラレータ カードを CES 2024 で展示する予定だ。これらの製品は、企業向けの大規模言語モデル (LLM) の導入を強化するように設計されており、より高いコストを提供しました。 - 現在の市場オプションに代わる効果的な代替品。同社のソリューションは経済的であるだけでなく、高いエネルギー効率を誇り、総所有コストの削減に貢献しました。

次回の CES イベントで、Neuchips は、パーソナル AI アシスタント アプリケーション内で Whisper や Llama などの AI チャットボットを高速化することにより、Raptor および Evo 製品の機能をデモンストレーションしました。このデモンストレーションは、ビジネスにおける LLM 推論の実際的な利点を説明することを目的としている。さらに、Neuchips は、ブース 62700 で無料トライアル プログラムを提供することで、自社のテクノロジーを直接体験するよう企業を招待している。企業はそこで、音声テキスト変換アプリケーションのコスト削減の可能性について学ぶこともできる。

Raptor チップは、チップあたり最大 200 テラ オペレーション/秒 (TOPS) の高性能 AI 推論エクスペリエンスを提供するように設計されています。 Neuchips 独自の圧縮と効率の最適化により、この優れた機能は Gen-AI およびトランスフォーマーベースの AI モデルに特に適しています。これらの機能強化は、ニューラル ネットワーク アプリケーション向けに特別に設計されている。

Raptor を補完する Evo アクセラレーション カードは、PCIe Gen 5 テクノロジーと LPDDR5 32GB メモリを統合した超低消費電力ソリューションだ。適度な消費電力を維持しながら、大幅なホスト I/O とメモリ帯域幅を実現しました。 Evo のスケーラビリティにより、チップを追加することでパフォーマンスが直線的に向上し、進化する AI 需要に対する投資が保護されした。 Neuchips はまた、データセンター向けのコンパクトな AI 高速化ソリューションである Viper 製品を 2024 年後半に発売する予定だ。