Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA（米国カリフォルニア州）は、機密計算機能「Confidential Computing」を有効化した環境におけるAI推論処理の性能検証結果を公表した。暗号化に伴う処理負荷を抑える最適化手法を『TensorRT LLM』に導入することで、セキュリティの確保と高速なレスポンスの両立を実現したとされる。

最新の『Blackwell』基盤を用いた検証では、機密計算機能を有効にした状態でも従来の推論処理能力の96%以上を維持できることが確認された模様だ。メモリ転送の効率化や通信アルゴリズムの調整を通じ、セキュリティ強化に伴う遅延を数%程度に留めることに成功したと伝えられている。

機密情報や独自のモデルデータを保護する需要が拡大するなか、暗号化環境での運用負荷を最小限に抑える技術的手段が示された形だ。同社は基盤保護と処理性能を両立する開発環境を整え、企業におけるAI基盤の安全な商用運用を支援していく構想と報じられている。