Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
.webp)
NVIDIAがAI工場の電力効率向上策発表
Generatived
26/6/23 9:00
NVIDIA（米カリフォルニア州サンタクララ）は、AI工場における電力コスト削減と収益性向上に向けた取り組みを発表した。運用コストの最大4割を電力が占めるケースもあり、性能当たりの消費電力が重要な指標になるとしている。
同社によると、GB200 NVL72やDSXプラットフォームを活用することで、液冷技術や動的電力配分を通じて固定電力枠内での推論処理能力向上が可能になるという。推論性能の向上はトークン生成量の増加につながると説明した。
また、ミシガン大学ML.ENERGY Initiativeとの共同研究では、大規模モデル学習時のGPU稼働速度を調整することで、学習時間を維持しながらエネルギー消費を削減できることが確認されたとされる。
さらに、DSXはリアルタイムの電力監視やワークロード最適化を通じて、AI工場全体の効率向上を支援するという。電力制約が厳しい環境でも、トークン当たりのコスト削減と収益性向上を実現できるとの見方を示した。
最新のニュース
%20(1).webp)
OpenAIがGPT-6高速版
26/10/5 7:00
OpenAI（米国サンフランシスコ）は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。
%20(1).webp)
NVIDIAが映像解析基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。
%20(1).webp)
NVIDIAがデスクトップ基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
OpenAIがGPT-6高速版
26/10/5 7:00
OpenAI（米国サンフランシスコ）は、NVIDIAのBlackwellグラフィックス処理装置上で動作するAIモデル『GPT-6 Astra Ultrafast』の提供を開始した。
NVIDIAが映像解析基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、動画検索・要約基盤の最新版『Metropolis Blueprint for Video Search and Summarization (VSS) 3.3』を発表した。
NVIDIAがデスクトップ基盤
26/10/5 7:00
NVIDIA（米国カリフォルニア州）は、パーソナルAIスーパーコンピュータ『NVIDIA DGX Spark』の新たな構成として64GBユニファイドメモリ搭載モデルを発表した。