top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

Groqがイベントで記録的なAI処理性能をデモ

Generatived

23/9/21 17:33

AIソリューション企業Groqは、超低レーテンシーLPUシステムを活用した記録的なAI処理デモを発表した。この発表は、2023年のGlobal Emerging Technology Summitでデモを行うCEO兼創設者のJonathan Rossによって行われた。Llama-2 70Bを実行するGroq LPUシステムは、ユーザー当たり1秒当たり240トークンを超える速度でテキストを生成でき、この規模の基本的な大規模言語モデル(LLM)上で最速のパフォーマンスをマークする。Groq Language Processing Unitシステムの基盤であるGroqChipは、パフォーマンス、効率、速度、精度を誇る。グラフィックスプロセッシング ユニット(GPU)よりも設計とレイアウトがシンプルで、高速かつ安価だ。Groqを活用したAIは、前例のない速度でAIアプリケーションを作成できる「言語ユーザーインターフェイス」を実現することを目指している。Groq CEO兼創設者のJonathan Ross氏は、AIへの需要が加速しており、GPUが必要な速度と精度を維持するのに苦労していると述べた。同氏は、GPUがAI経済において最も弱い部分になりつつあり、GroqはAIエクスペリエンスを誰でも利用できるようにしながら、AIエクスペリエンスの新しい標準を設定するつもりであると述べた。ロス氏はSCSP段階でAI分野の他の著名人に加わり、世界競争力のために生成AIを活用する米国の取り組みを支援することになる。イベントへのバーチャル参加に興味のある方は、オンラインで登録し、独占的なテクノロジーデモをスケジュールすることができる。

この記事を共有:

最新のニュース
NVIDIAがAI評価指標発表

NVIDIAがAI評価指標発表

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、自律型AIエージェントの性能を測定する評価フレームワークの分析結果を公表した。

NVIDIAがCT解析基盤発表

NVIDIAがCT解析基盤発表

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、3D CT検査の画像解析に特化したAIモデル『NV-Reason-CT』を発表した。

MSがFoundry機能拡充

MSがFoundry機能拡充

26/9/24 7:00

Microsoft(米国ワシントン州)は、AIエージェント構築プラットフォーム『Microsoft Foundry』の機能強化を発表した。

NVIDIAが複数GPU推論機能を発表

NVIDIAが複数GPU推論機能を発表

26/9/23 7:00

NVIDIA(米国カリフォルニア州)は、生成AIの推論処理を複数のGPUに分散させて高速化する新機能「TensorRTマルチデバイス推論」およびその基盤となる「Dynamo-Triton」の最新版を公表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
NVIDIAがAI評価指標発表

NVIDIAがAI評価指標発表

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、自律型AIエージェントの性能を測定する評価フレームワークの分析結果を公表した。

NVIDIAがCT解析基盤発表

NVIDIAがCT解析基盤発表

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、3D CT検査の画像解析に特化したAIモデル『NV-Reason-CT』を発表した。

MSがFoundry機能拡充

MSがFoundry機能拡充

26/9/24 7:00

Microsoft(米国ワシントン州)は、AIエージェント構築プラットフォーム『Microsoft Foundry』の機能強化を発表した。

NVIDIAが複数GPU推論機能を発表

NVIDIAが複数GPU推論機能を発表

26/9/23 7:00

NVIDIA(米国カリフォルニア州)は、生成AIの推論処理を複数のGPUに分散させて高速化する新機能「TensorRTマルチデバイス推論」およびその基盤となる「Dynamo-Triton」の最新版を公表した。

bottom of page