Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA（サンフランシスコ）は、連合学習フレームワーク「NVIDIA FLARE」を活用し、大規模な視覚言語モデルの分散トレーニングを効率化する技術設計を公表した模様だ。データのローカル保持とネットワーク転送量の削減を両立させる仕組みを整えたとされる。

本手法は、モデル全体ではなく軽量なアダプター領域のみを同期対象とすることで、通信帯域やサーバーメモリへの負荷を大幅に軽減するアプローチを提示しているとのことだ。データ構造の最適化により、複数拠点間での円滑な学習を実現する見通しと伝えられている。

さらに、大容量データのストリーミング処理やディスクへのオフロード機能を組み合わせることで、ノード増加時のメモリ圧迫を抑制する設計が施されているようだ。同社は高度なマルチモーダルAIの安全かつ効率的な開発運用環境の普及を進めていく構想と報じられている。