Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
Google、AI Edge PortalにLLM検証機能追加
Generatived
26/6/2 0:00
Google（米カリフォルニア州）は、Android端末向け開発支援サービス「Google AI Edge Portal」に、オンデバイスLLMのベンチマーク機能とデバッグ機能を追加したと発表した。生成AIアプリの最適化を効率化し、多様な端末への展開を支援する狙いという。
同社によると、新機能では120種類以上のAndroid端末を対象に、CPUやGPU環境でのLLM性能を自動評価できる。初期化時間やプレフィル速度、デコード速度、メモリ使用量などを計測し、端末ごとの実運用性能を把握できるとしている。
また、モデル可視化ツール「Model Explorer」を統合し、複雑なモデル構造の解析や比較を容易にしたという。変換時の異常検出や量子化による精度低下の分析、アクセラレータごとの性能比較などにも対応するとしている。
Googleは、オンデバイス生成AIの普及に伴い、開発者が幅広い端末で安定した性能を実現するための支援体制を強化すると説明した。Google AI Edge Portalは現在、Google Cloud利用者向けに限定公開プレビューとして提供されているという。
最新のニュース
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 0:00
NVIDIA（米国カリフォルニア州）は、大規模言語モデル（LLM）の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。
Microsoft、Copilotに営業・サービスAI強化
26/7/14 0:00
Microsoft（米国ワシントン州）は、Microsoft 365 CopilotとDynamics 365向けに営業・カスタマーサービス業務を支援する新たなエージェント機能を提供開始したと発表した。
NVIDIA、JAX向けHBM削減技術を紹介
26/7/14 0:00
NVIDIA（米国カリフォルニア州）は、JAXを用いた大規模言語モデル（LLM）の学習において、GPU高帯域幅メモリ（HBM）の使用量を抑える「Host Offloading」の活用方法を紹介した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIA、LLM向けGPU最適化設計指針公開
26/7/14 0:00
NVIDIA（米国カリフォルニア州）は、大規模言語モデル（LLM）の性能を最大限引き出すためのGPU最適化設計ガイドを公開したと発表した。
Microsoft、Copilotに営業・サービスAI強化
26/7/14 0:00
Microsoft（米国ワシントン州）は、Microsoft 365 CopilotとDynamics 365向けに営業・カスタマーサービス業務を支援する新たなエージェント機能を提供開始したと発表した。
NVIDIA、JAX向けHBM削減技術を紹介
26/7/14 0:00
NVIDIA（米国カリフォルニア州）は、JAXを用いた大規模言語モデル（LLM）の学習において、GPU高帯域幅メモリ（HBM）の使用量を抑える「Host Offloading」の活用方法を紹介した。