Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

GigaIOは最近、SuperNODE™ の大幅な発注を発表した。これには、新たに発表された膨大なAMD Instinct MI300Xアクセラレーターが組み込まれる。このインフラストラクチャーは、TensorWaveが開発した「TensorNODE」と呼ばれる新しいAIクラウドの中核となる予定だ。このクラウドは、特に大規模言語モデル（LLM）に焦点を当てて、AMDのデータセンターGPUへの広範なアクセスを提供することを目的としているという。

初の32 GPUのシングルノードスーパーコンピューターとしてデビューしたSuperNODEは、その革新性が認められ、HPCwire Editors' Choice Awardを2回受賞した。TensorNODEは、GigaIOの高度なPCIe Gen-5メモリーファブリックを利用して、このテクノロジーを拡張する。この機能強化により、ワークロード管理が合理化され、導入効率が向上し、従来のネットワークの制限が回避されることが期待されるという。

TensorWaveは、GigaIOのFabreX™ テクノロジーを活用して先駆的なペタバイト規模のGPUメモリープールを確立し、現在のGPU市場におけるVRAMとメモリー帯域幅の重要なニーズに対応する予定だ。TensorNODEの初期フェーズは2024年初頭に予定されており、数千のGPUをサポートする機能が備わります。このセットアップにより、大規模なVRAMプールへのアクセスが可能になり、前例のないペースで実質的な計算タスクの完了が容易になるという。

TensorWaveによるGigaIOの適応性のあるインフラストラクチャーの採用により、AIおよびLLMアプリケーションの進化する要求に応じてリソースを調整する機能が提供される。このアプローチは運用効率を高めるだけでなく、余分なサーバーやネットワークハードウェアの必要性を削減することで、より持続可能なクラウド環境にも貢献する。TensorNODEの全AMD構成は、第4世代AMD CPUとMI300Xアクセラレーターの両方を活用し、MI300Xの十分なメモリー容量とGigaIOのメモリーファブリックにより最適なGPU Core使用率を保証し、優れたパフォーマンスを提供する準備が整っているとのことだ。