Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
NVIDIA、生成AIニーズを満たすGH200 Grace Hopperを発表
Generatived
23/8/9 10:23
NVIDIA は、アクセラレーテッド コンピューティングと生成 AI の需要を満たすように設計された、待望の次世代 NVIDIA GH200 Grace Hopperプラットフォームを発表しました。この画期的なプラットフォームは、世界初の HBM3e プロセッサーを搭載した革新的な Grace Hopper スーパーチップを中心に構築されています。 GH200 Grace Hopper プラットフォームは、その卓越した機能により、大規模な言語モデル、レコメンダー システム、ベクトル データベースなど、最も複雑な生成 AI ワークロードを処理できるように特別に設計されています。この新しいプラットフォームの重要なハイライトの 1 つは、そのデュアル構成であり、前世代と比較してメモリ容量が 3.5 倍、帯域幅が 3 倍という驚異的な増加を実現します。この構成には、144 個の Arm Neoverse コアを搭載した単一サーバーが含まれており、8 ペタフロップスの AI パフォーマンスを実現し、282 GB の最新の HBM3e メモリ テクノロジーを誇ります。この強化されたメモリ テクノロジと帯域幅によりスループットが大幅に向上し、効率を損なうことなく GPU を接続して総合的なパフォーマンスを実現できるようになります。さらに、GH200 Grace Hopper プラットフォームのサーバー設計により、データセンター全体に簡単に導入できます。GH200 Grace Hopper プラットフォームは Grace Hopper スーパーチップを利用しており、NVIDIA NVLinkテクノロジーを使用して追加のスーパーチップとシームレスに接続できます。この高速でコヒーレントな接続により、GPU が CPU メモリに完全にアクセスできるようになり、デュアル構成で合計 1.2TB の高速メモリが得られます。さらに、現在の HBM3 より 50% 高速な HBM3e メモリは、合計 10TB/秒という驚異的な合計帯域幅を提供します。これにより、新しいプラットフォームは以前のバージョンよりも 3.5 倍大きいモデルを実行できると同時に、3 倍高速なメモリ帯域幅でパフォーマンスも向上します。Grace Hopper プラットフォームの需要は急速に高まっており、大手メーカーはすでに以前に発表された Grace Hopper スーパーチップをベースにしたシステムを提供しています。このテクノロジーの採用をさらに推進するために、HBM3e を搭載した次世代 Grace Hopper Superchip プラットフォームは、今年初めの COMPUTEX で発表された NVIDIA MGXサーバー仕様と完全な互換性があります。この互換性により、どのシステム メーカーでも、MGX 仕様を使用して Grace Hopper を 100 以上のサーバー バリエーションに簡単かつコスト効率よく統合できるようになります。GH200 Grace Hopper プラットフォームは、2024 暦年の第 2 四半期に大手システム メーカーから発売される予定です。Grace Hopper とその機能の詳細については、Jensen Huang の SIGGRAPH 基調講演をオンデマンドで視聴できます。
最新のニュース
OpenFashion Maison AI新AIエージェントPro
24/11/1 4:30
OpenFashion(東京都港区)は、ファッション業界向けAIツール「Maison AI」に40種のAIエージェントProを追加した。
Copyright © 2024 Generatived - All right Reserved.
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
ニュース
AIと法律/制度/経済/社会
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
OpenFashion Maison AI新AIエージェントPro
24/11/1 4:30
OpenFashion(東京都港区)は、ファッション業界向けAIツール「Maison AI」に40種のAIエージェントProを追加した。