top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIA、NVFP4 事前学習の効率化で AI を強化

Generatived

25/8/27 9:00

NVIDIAは、4ビットデータフォーマットであるNVFP4を大規模言語モデル(LLM)の事前学習段階にまで拡張することで、AIモデル開発において大きな進歩を遂げました。この進歩により、大規模LLMの学習能力が向上し、インフラストラクチャの効率が大幅に向上します。これは単なる最適化ではなく、大規模モデルの学習アプローチにおける根本的な転換を意味します。

AIデータフォーマットにおける同社のイノベーション、特に事前学習用のNVFP4は、AIモデル開発における効率性とスケーラビリティを再定義する力を持っています。事前学習段階で4ビット精度を採用することで、NVIDIAは高性能AIの可能性の限界を押し広げ、新たな業界標準を確立しています。

NVIDIAのNVFP4トレーニングは現在研究段階にあり、大規模モデルの事前学習における可能性について、継続的なコラボレーションと検証が行われています。同社は、 Amazon Web Services、Cohere、 Google Cloud、Microsoft AIといった主要企業と積極的に連携し、4ビット精度の可能性を探求しています。

4ビット量子化の概念は、モデルの重みと活性化の精度を4ビットに低減することを意味します。これは、標準的な16ビットまたは32ビット形式から大幅に削減されます。このアプローチでは、精度を維持しながらトレーニング速度を向上させることが困難であり、高精度のテンソルをより小さな量子化値セットに効果的にマッピングするための特殊な技術が必要となります。NVIDIAのこの分野における進歩により、AIファクトリーはトークンスループットを向上させることができ、より高性能なAIモデルの開発を加速できます。

この記事を共有:

最新のニュース
パシフィックネット AI機器ITAD強化

パシフィックネット AI機器ITAD強化

26/7/7 9:00

パシフィックネット(東京都港区)は、ITAD事業で従来のPCに加え、AIインフラを支えるサーバーやストレージ、ネットワーク機器などへの対応領域を拡大すると発表した。

Nayutam、Dock Labsと提携

Nayutam、Dock Labsと提携

26/7/7 9:00

Nayutam(東京都中央区)は、デジタルアイデンティティ基盤を提供するDock Labsと、日本国内エンタープライズ市場における戦略的協業および共同マーケティングに関する覚書を締結したと発表した。

Tokyo Artisan Intelligence、AI半導体量産へ

Tokyo Artisan Intelligence、AI半導体量産へ

26/7/7 9:00

Tokyo Artisan Intelligence(神奈川県横浜市)は、独自アーキテクチャによるエッジAI向けリコンフィギャラブルAI半導体テストチップ「Sting Ray」の設計・製造・評価を完了し、量産フェーズへ移行したと発表した。

GMOブランドセキュリティ 知財AI実証完了

GMOブランドセキュリティ 知財AI実証完了

26/7/7 9:00

GMOブランドセキュリティ(東京都渋谷区)は、GMOアイアールディーと共同で、GMOインターネットが提供する「GMO GPUクラウド」上で知財業務向け生成AI「GMO知財AI」の実証実験を完了したと発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
パシフィックネット AI機器ITAD強化

パシフィックネット AI機器ITAD強化

26/7/7 9:00

パシフィックネット(東京都港区)は、ITAD事業で従来のPCに加え、AIインフラを支えるサーバーやストレージ、ネットワーク機器などへの対応領域を拡大すると発表した。

Nayutam、Dock Labsと提携

Nayutam、Dock Labsと提携

26/7/7 9:00

Nayutam(東京都中央区)は、デジタルアイデンティティ基盤を提供するDock Labsと、日本国内エンタープライズ市場における戦略的協業および共同マーケティングに関する覚書を締結したと発表した。

Tokyo Artisan Intelligence、AI半導体量産へ

Tokyo Artisan Intelligence、AI半導体量産へ

26/7/7 9:00

Tokyo Artisan Intelligence(神奈川県横浜市)は、独自アーキテクチャによるエッジAI向けリコンフィギャラブルAI半導体テストチップ「Sting Ray」の設計・製造・評価を完了し、量産フェーズへ移行したと発表した。

GMOブランドセキュリティ 知財AI実証完了

GMOブランドセキュリティ 知財AI実証完了

26/7/7 9:00

GMOブランドセキュリティ(東京都渋谷区)は、GMOアイアールディーと共同で、GMOインターネットが提供する「GMO GPUクラウド」上で知財業務向け生成AI「GMO知財AI」の実証実験を完了したと発表した。

bottom of page