top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIAがMoE高速化手法発表

Generatived

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、大規模言語モデルやバイオ基盤モデルに向けたMoE(Mixture-of-Experts)アーキテクチャの学習効率化手法を公開した。自社ライブラリ『Transformer Engine』を用い、分散処理時の計算負荷やメモリ消費を抑える技術群を提示したとされる。

複数のエキスパート演算を一本化する「GroupedLinear」や低精度量子化の「MXFP8」を適用し、最新ハードウェア『Blackwell』基盤での処理速度向上を図る仕組みだ。従来のオープンソース実装で生じていたカーネル起動オーバーヘッドを大幅に削減したと伝えられている。

実証実験では『B200』搭載環境において既存モデル比で最大2.21倍のスループットを記録した模様だ。同社はレシピの提供を通じて大規模モデルの学習コスト低減を後押しし、ゲノム解析や創薬研究における技術開発を強力に支援していく構想と報じられている。

この記事を共有:

最新のニュース
OpenAIが技能開発支援

OpenAIが技能開発支援

26/9/22 7:00

OpenAI(米国カリフォルニア州)は、東南アジアの配車・配達大手Grabと提携し、AIスキルの育成プログラム『GO Forward with AI』を開始すると発表した。

OpenAIがプロンプト基盤改善

OpenAIがプロンプト基盤改善

26/9/22 7:00

OpenAI(サンフランシスコ)は、GPT-6モデル群に向けたプロンプトキャッシュシステムの改良と運用ツールの拡充を発表した。

NVIDIAがDLSS5を発表

NVIDIAがDLSS5を発表

26/9/22 7:00

NVIDIA(米国カリフォルニア州)は、グラフィックス技術の最新版「DLSS 5」を発表した。

OpenAIが外部評価指針発表

OpenAIが外部評価指針発表

26/9/21 7:00

OpenAI(米国カリフォルニア州)は、最先端AIモデルの安全性向上に向けた第三者評価機関による検証の優先領域と基本原則を発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
OpenAIが技能開発支援

OpenAIが技能開発支援

26/9/22 7:00

OpenAI(米国カリフォルニア州)は、東南アジアの配車・配達大手Grabと提携し、AIスキルの育成プログラム『GO Forward with AI』を開始すると発表した。

OpenAIがプロンプト基盤改善

OpenAIがプロンプト基盤改善

26/9/22 7:00

OpenAI(サンフランシスコ)は、GPT-6モデル群に向けたプロンプトキャッシュシステムの改良と運用ツールの拡充を発表した。

NVIDIAがDLSS5を発表

NVIDIAがDLSS5を発表

26/9/22 7:00

NVIDIA(米国カリフォルニア州)は、グラフィックス技術の最新版「DLSS 5」を発表した。

OpenAIが外部評価指針発表

OpenAIが外部評価指針発表

26/9/21 7:00

OpenAI(米国カリフォルニア州)は、最先端AIモデルの安全性向上に向けた第三者評価機関による検証の優先領域と基本原則を発表した。

bottom of page