Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

Groqがイベントで記録的なAI処理性能をデモ
Generatived
23/9/21 17:33
AIソリューション企業Groqは、超低レーテンシーLPUシステムを活用した記録的なAI処理デモを発表した。この発表は、2023年のGlobal Emerging Technology Summitでデモを行うCEO兼創設者のJonathan Rossによって行われた。Llama-2 70Bを実行するGroq LPUシステムは、ユーザー当たり1秒当たり240トークンを超える速度でテキストを生成でき、この規模の基本的な大規模言語モデル(LLM)上で最速のパフォーマンスをマークする。Groq Language Processing Unitシステムの基盤であるGroqChipは、パフォーマンス、効率、速度、精度を誇る。グラフィックスプロセッシング ユニット(GPU)よりも設計とレイアウトがシンプルで、高速かつ安価だ。Groqを活用したAIは、前例のない速度でAIアプリケーションを作成できる「言語ユーザーインターフェイス」を実現することを目指している。Groq CEO兼創設者のJonathan Ross氏は、AIへの需要が加速しており、GPUが必要な速度と精度を維持するのに苦労していると述べた。同氏は、GPUがAI経済において最も弱い部分になりつつあり、GroqはAIエクスペリエンスを誰でも利用できるようにしながら、AIエクスペリエンスの新しい標準を設定するつもりであると述べた。ロス氏はSCSP段階でAI分野の他の著名人に加わり、世界競争力のために生成AIを活用する米国の取り組みを支援することになる。イベントへのバーチャル参加に興味のある方は、オンラインで登録し、独占的なテクノロジーデモをスケジュールすることができる。
最新のニュース
アクアテック社、トリビー社のサイバー攻撃に迅速に対応
26/3/27 9:00
2026年3月19日、Aqua Security社が開発したオープンソースの脆弱性スキャナー「Trivy」が、高度なサイバー攻撃の標的となった。
NVIDIAガイドがKubernetesのGPU利用効率を向上させる
26/3/27 9:00
Kubernetes環境においては、モデルの要件とGPUサイズのミスマッチが非効率性を招くことが多く、特にASRやTTSといった軽量モデルが、必要な容量のごく一部しか必要としないにもかかわらず、GPU全体を占有してしまう場合に顕著です。
Copyright © 2024 Generatived - All right Reserved.
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
アクアテック社、トリビー社のサイバー攻撃に迅速に対応
26/3/27 9:00
2026年3月19日、Aqua Security社が開発したオープンソースの脆弱性スキャナー「Trivy」が、高度なサイバー攻撃の標的となった。
NVIDIAガイドがKubernetesのGPU利用効率を向上させる
26/3/27 9:00
Kubernetes環境においては、モデルの要件とGPUサイズのミスマッチが非効率性を招くことが多く、特にASRやTTSといった軽量モデルが、必要な容量のごく一部しか必要としないにもかかわらず、GPU全体を占有してしまう場合に顕著です。


%20(1).webp)



