Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
NVIDIA、AgentPerfで性能訴求
Generatived
26/6/18 9:00
NVIDIA（米カリフォルニア州サンタクララ）は、Artificial Analysisが公開した新たなAIエージェント向け推論ベンチマーク「AA-AgentPerf」において、NVIDIA GB300 NVL72が高い性能と電力効率を示したと発表した。
AA-AgentPerfは、エージェント型AIの実運用を想定した推論性能を測定する業界初のオープンベンチマークとされる。コーディング支援エージェントの実際の処理フローを再現し、同時実行可能なエージェント数や応答性能を評価する仕組みという。
同社によると、GB300 NVL72はDeepSeek-V4-Proを用いた測定で、前世代のNVIDIA H200と比較して最大20倍の同時エージェント処理性能を記録した。72基のGPUをNVLinkで接続する構成が大規模推論処理を支えているとしている。
さらに、TensorRT LLMやSGLang、vLLMなどの推論基盤との連携に加え、DeepGEMMやMega MoE最適化技術を活用することで高いスループットを実現したという。同社は今後、次世代のNVIDIA Vera Rubinプラットフォームによる性能向上も見込んでいる。
最新のニュース
%20(1).webp)
Deutsche Bankがプラットフォーム導入
26/8/24 14:00
Deutsche Bank（フランクフルト）は、次世代のデジタルインフラとしてGoogle CloudのAPI管理プラットフォーム「Apigee」を採用した模様だ。
chezmoiでAI設定一元化
26/8/24 14:00
グループIT推進本部のRokiは、AIエージェントの共通設定を管理ツールchezmoiとAPMを用いて効率的に一元化・同期する手法を発表した模様だ。
Targetデータ基盤を統合
26/8/24 14:00
Target（ミネアポリス）は、大規模な商品データや顧客の検索意図を効率的に処理するため、データベース基盤をGoogle Cloudの「Spanner Graph」へ統合した模様だ。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
Deutsche Bankがプラットフォーム導入
26/8/24 14:00
Deutsche Bank（フランクフルト）は、次世代のデジタルインフラとしてGoogle CloudのAPI管理プラットフォーム「Apigee」を採用した模様だ。
chezmoiでAI設定一元化
26/8/24 14:00
グループIT推進本部のRokiは、AIエージェントの共通設定を管理ツールchezmoiとAPMを用いて効率的に一元化・同期する手法を発表した模様だ。
Targetデータ基盤を統合
26/8/24 14:00
Target（ミネアポリス）は、大規模な商品データや顧客の検索意図を効率的に処理するため、データベース基盤をGoogle Cloudの「Spanner Graph」へ統合した模様だ。