Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Google（米カリフォルニア州）は、Android端末向け開発支援サービス「Google AI Edge Portal」に、オンデバイスLLMのベンチマーク機能とデバッグ機能を追加したと発表した。生成AIアプリの最適化を効率化し、多様な端末への展開を支援する狙いという。

同社によると、新機能では120種類以上のAndroid端末を対象に、CPUやGPU環境でのLLM性能を自動評価できる。初期化時間やプレフィル速度、デコード速度、メモリ使用量などを計測し、端末ごとの実運用性能を把握できるとしている。

また、モデル可視化ツール「Model Explorer」を統合し、複雑なモデル構造の解析や比較を容易にしたという。変換時の異常検出や量子化による精度低下の分析、アクセラレータごとの性能比較などにも対応するとしている。

Googleは、オンデバイス生成AIの普及に伴い、開発者が幅広い端末で安定した性能を実現するための支援体制を強化すると説明した。Google AI Edge Portalは現在、Google Cloud利用者向けに限定公開プレビューとして提供されているという。