top of page
Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

Groqがイベントで記録的なAI処理性能をデモ
Generatived
23/9/21 8:33
AIソリューション企業Groqは、超低レーテンシーLPUシステムを活用した記録的なAI処理デモを発表した。この発表は、2023年のGlobal Emerging Technology Summitでデモを行うCEO兼創設者のJonathan Rossによって行われた。Llama-2 70Bを実行するGroq LPUシステムは、ユーザー当たり1秒当たり240トークンを超える速度でテキストを生成でき、この規模の基本的な大規模言語モデル(LLM)上で最速のパフォーマンスをマークする。Groq Language Processing Unitシステムの基盤であるGroqChipは、パフォーマンス、効率、速度、精度を誇る。グラフィックスプロセッシング ユニット(GPU)よりも設計とレイアウトがシンプルで、高速かつ安価だ。Groqを活用したAIは、前例のない速度でAIアプリケーションを作成できる「言語ユーザーインターフェイス」を実現することを目指している。Groq CEO兼創設者のJonathan Ross氏は、AIへの需要が加速しており、GPUが必要な速度と精度を維持するのに苦労していると述べた。同氏は、GPUがAI経済において最も弱い部分になりつつあり、GroqはAIエクスペリエンスを誰でも利用できるようにしながら、AIエクスペリエンスの新しい標準を設定するつもりであると述べた。ロス氏はSCSP段階でAI分野の他の著名人に加わり、世界競争力のために生成AIを活用する米国の取り組みを支援することになる。イベントへのバーチャル参加に興味のある方は、オンラインで登録し、独占的なテクノロジーデモをスケジュールすることができる。

