top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

NVIDIAが新推論技術発表

Generatived

26/8/25 7:00

NVIDIA(サンタクララ)は、推論アクセラレーター「Groq 3 LPX」における第三者機関のベンチマーク測定結果を公表した模様だ。「Vera Rubin」プラットフォームに組み込まれた本システムは、「Gemma 4 31B」モデルにおいて毎秒3,431出力トークンという高い対話性を記録したとされる。

エージェント処理における長文コンテキストのリアルタイム処理課題に対し、決定論的スケジュールとC2C相互接続が寄与したと分析されている。チップ間の通信初期遅延を抑制し、計算とデータ転送を微細な単位で高度に重複させることで、小バッチ実行時の処理速度向上を実現した模様だ。

本技術の確立により、数千トークン規模の高速出力を短時間で完了させることが可能になり、エージェント型開発におけるユーザー体験が大きく改善されると期待されている。今後は「Vera Rubin NVL72」との組み合わせにより、2兆パラメータ規模の超大型モデルの分散処理や効率的な運用を後押ししていく構想のようだ。

この記事を共有:

最新のニュース
steAmがSTEAM人材育成を開始

steAmがSTEAM人材育成を開始

26/9/28 7:00

steAm(東京都豊島区)は、企業・組織向けの人財育成プログラム『steAm Human Development Program』を本格展開すると発表した。

ウイングアークが帳票導入

ウイングアークが帳票導入

26/9/28 7:00

ウイングアーク1st(東京都港区)は、三菱UFJファクターのファクタリング事業においてデジタル帳票基盤『SVF』とデジタルトラスト『Trustee』が導入されたと発表した。

NovaEdgeが提案書診断

NovaEdgeが提案書診断

26/9/28 7:00

NovaEdge(京都府京都市)は、自治体のプロポーザル案件向け提案書をAIが診断し改善点を提示するクラウドサービス『提案書くんPlus』の提供を開始した。

ココペリが海外商談基盤

ココペリが海外商談基盤

26/9/28 7:00

ココペリ(東京都千代田区)は、諏訪信用金庫において海外ビジネスマッチングプラットフォーム『BIG ADVANCE GLOBAL』の運用が開始されたと発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
steAmがSTEAM人材育成を開始

steAmがSTEAM人材育成を開始

26/9/28 7:00

steAm(東京都豊島区)は、企業・組織向けの人財育成プログラム『steAm Human Development Program』を本格展開すると発表した。

ウイングアークが帳票導入

ウイングアークが帳票導入

26/9/28 7:00

ウイングアーク1st(東京都港区)は、三菱UFJファクターのファクタリング事業においてデジタル帳票基盤『SVF』とデジタルトラスト『Trustee』が導入されたと発表した。

NovaEdgeが提案書診断

NovaEdgeが提案書診断

26/9/28 7:00

NovaEdge(京都府京都市)は、自治体のプロポーザル案件向け提案書をAIが診断し改善点を提示するクラウドサービス『提案書くんPlus』の提供を開始した。

ココペリが海外商談基盤

ココペリが海外商談基盤

26/9/28 7:00

ココペリ(東京都千代田区)は、諏訪信用金庫において海外ビジネスマッチングプラットフォーム『BIG ADVANCE GLOBAL』の運用が開始されたと発表した。

bottom of page