Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIAが機密計算技術検証
Generatived
26/9/24 7:00
NVIDIA（米国カリフォルニア州）は、機密計算機能「Confidential Computing」を有効化した環境におけるAI推論処理の性能検証結果を公表した。暗号化に伴う処理負荷を抑える最適化手法を『TensorRT LLM』に導入することで、セキュリティの確保と高速なレスポンスの両立を実現したとされる。
最新の『Blackwell』基盤を用いた検証では、機密計算機能を有効にした状態でも従来の推論処理能力の96%以上を維持できることが確認された模様だ。メモリ転送の効率化や通信アルゴリズムの調整を通じ、セキュリティ強化に伴う遅延を数%程度に留めることに成功したと伝えられている。
機密情報や独自のモデルデータを保護する需要が拡大するなか、暗号化環境での運用負荷を最小限に抑える技術的手段が示された形だ。同社は基盤保護と処理性能を両立する開発環境を整え、企業におけるAI基盤の安全な商用運用を支援していく構想と報じられている。
最新のニュース
AItegrity、面接官設定AIシステムを構築
26/7/20 9:00
AItegrity（埼玉県志木市）は、大手住宅メーカーの人事部門向けに、年間約300回に及ぶ採用面接の面接官選定を効率化する「面接設定AIシステム」のプロトタイプを構築した。
Multiverse Computing、5億7,000万ドル調達
26/7/20 9:00
Multiverse Computing（サンセバスチャン）は、シリーズCで5億7,000万ドルを調達し、プレマネー評価額17億ドルで資金調達を実施したと発表した。
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 9:00
NVIDIA（米国カリフォルニア州）は、大規模言語モデル（LLM）の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
AItegrity、面接官設定AIシステムを構築
26/7/20 9:00
AItegrity（埼玉県志木市）は、大手住宅メーカーの人事部門向けに、年間約300回に及ぶ採用面接の面接官選定を効率化する「面接設定AIシステム」のプロトタイプを構築した。
Multiverse Computing、5億7,000万ドル調達
26/7/20 9:00
Multiverse Computing（サンセバスチャン）は、シリーズCで5億7,000万ドルを調達し、プレマネー評価額17億ドルで資金調達を実施したと発表した。
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 9:00
NVIDIA（米国カリフォルニア州）は、大規模言語モデル（LLM）の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。