Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供
%20(1).webp)
Google、AI Edge PortalにLLM検証機能追加
Generatived
26/6/2 9:00
Google（米カリフォルニア州）は、Android端末向け開発支援サービス「Google AI Edge Portal」に、オンデバイスLLMのベンチマーク機能とデバッグ機能を追加したと発表した。生成AIアプリの最適化を効率化し、多様な端末への展開を支援する狙いという。
同社によると、新機能では120種類以上のAndroid端末を対象に、CPUやGPU環境でのLLM性能を自動評価できる。初期化時間やプレフィル速度、デコード速度、メモリ使用量などを計測し、端末ごとの実運用性能を把握できるとしている。
また、モデル可視化ツール「Model Explorer」を統合し、複雑なモデル構造の解析や比較を容易にしたという。変換時の異常検出や量子化による精度低下の分析、アクセラレータごとの性能比較などにも対応するとしている。
Googleは、オンデバイス生成AIの普及に伴い、開発者が幅広い端末で安定した性能を実現するための支援体制を強化すると説明した。Google AI Edge Portalは現在、Google Cloud利用者向けに限定公開プレビューとして提供されているという。
最新のニュース
%20(1).webp)
NVIDIAが機密計算技術検証
26/9/24 7:00
NVIDIA（米国カリフォルニア州）は、機密計算機能「Confidential Computing」を有効化した環境におけるAI推論処理の性能検証結果を公表した。
MicrosoftがGPT6提供
26/9/24 7:00
Microsoft（米国ワシントン州）は、開発プラットフォーム『Microsoft Foundry』において『GPT-6 Sol』および『GPT-6 Luna』の提供を開始した。
NVIDIAがウイルス構造公開
26/9/24 7:00
NVIDIA（米国カリフォルニア州）は、国際研究組織の連合体と共同で2,800種以上のウイルスにおけるタンパク質複合体の3D予測構造を一般公開したと発表した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
フォローをお願いします
言語
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
フォローをお願いします
言語
最新のニュース
NVIDIAが機密計算技術検証
26/9/24 7:00
NVIDIA（米国カリフォルニア州）は、機密計算機能「Confidential Computing」を有効化した環境におけるAI推論処理の性能検証結果を公表した。
MicrosoftがGPT6提供
26/9/24 7:00
Microsoft（米国ワシントン州）は、開発プラットフォーム『Microsoft Foundry』において『GPT-6 Sol』および『GPT-6 Luna』の提供を開始した。
NVIDIAがウイルス構造公開
26/9/24 7:00
NVIDIA（米国カリフォルニア州）は、国際研究組織の連合体と共同で2,800種以上のウイルスにおけるタンパク質複合体の3D予測構造を一般公開したと発表した。