Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIAが機密計算技術検証
Generatived
26/9/24 7:00
NVIDIA（米国カリフォルニア州）は、機密計算機能「Confidential Computing」を有効化した環境におけるAI推論処理の性能検証結果を公表した。暗号化に伴う処理負荷を抑える最適化手法を『TensorRT LLM』に導入することで、セキュリティの確保と高速なレスポンスの両立を実現したとされる。
最新の『Blackwell』基盤を用いた検証では、機密計算機能を有効にした状態でも従来の推論処理能力の96%以上を維持できることが確認された模様だ。メモリ転送の効率化や通信アルゴリズムの調整を通じ、セキュリティ強化に伴う遅延を数%程度に留めることに成功したと伝えられている。
機密情報や独自のモデルデータを保護する需要が拡大するなか、暗号化環境での運用負荷を最小限に抑える技術的手段が示された形だ。同社は基盤保護と処理性能を両立する開発環境を整え、企業におけるAI基盤の安全な商用運用を支援していく構想と報じられている。
最新のニュース
NVIDIA、AI基盤構築指針を拡充
26/5/1 9:00
NVIDIA（米カリフォルニア州サンタクララ）は、企業向けAI基盤の構築を支援する「NVIDIA Enterprise Reference Architectures（Enterprise RAs）」とAIファクトリー構成の詳細を公開した。
%20(1).webp)
OpenAI、Stargate拡張加速
26/5/1 9:00
OpenAI（米カリフォルニア州サンフランシスコ）は、AIインフラ構想「Stargate」において、2029年までに米国内で10GW規模の計算基盤確保を目指す計画を前倒しで進め、直近90日間で3GW超の新容量を追加したと明らかにした。
%20(1).webp)
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIA、AI基盤構築指針を拡充
26/5/1 9:00
NVIDIA（米カリフォルニア州サンタクララ）は、企業向けAI基盤の構築を支援する「NVIDIA Enterprise Reference Architectures（Enterprise RAs）」とAIファクトリー構成の詳細を公開した。
OpenAI、Stargate拡張加速
26/5/1 9:00
OpenAI（米カリフォルニア州サンフランシスコ）は、AIインフラ構想「Stargate」において、2029年までに米国内で10GW規模の計算基盤確保を目指す計画を前倒しで進め、直近90日間で3GW超の新容量を追加したと明らかにした。