Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Google は最近、データのプライバシーと機密性が最優先されるシナリオで生成 AI (gen AI) の適用を強化することを目的としたテクノロジーを発表しました。同社の GenC オープンソース プロジェクトを活用することで、開発者はモバイル プラットフォームで Confidential Computing と Gemma オープンソース モデルを試すことができます。この取り組みにより、データ処理におけるプライバシー、透明性、検証可能性の厳しい要求に応える gen AI 搭載アプリの作成が可能になります。

同社のアプローチには、2 つの言語モデル (LLM) を組み合わせたハイブリッド セットアップが含まれます。1 つは、素早い応答用の小型のオンデバイス モデル、もう 1 つは複雑なクエリ用の大型のクラウド ホスト モデルです。量子化された Gemma 2B と量子化されていない Gemma 7B に代表されるこのデュアル モデル システムにより、モバイル アプリはローカルとクラウドの両方のコンピューティング リソースを効率的に利用できます。小型の Gemma 2B モデルは Pixel 7 などのデバイスで直接動作し、コスト効率に優れた高速クエリ処理を提供します。一方、 Google Cloud の Confidential Space でホストされる大型の Gemma 7B モデルは、より要求の厳しいタスクに対して高品質の応答を提供します。

この革新的なアーキテクチャでは、クラウドの Trusted Execution Environments (TEE) がユーザーのデバイスの拡張機能として機能し、永続性のない暗号化された通信とデータ処理を保証します。開発者は、すべてのコードが外部検査用に完全にオープンソース化されているため、認証レポートを通じて TEE で実行されているコードの整合性を検証できます。この設定は複雑ですが、GenC によって簡素化され、プログラマーの開発プロセスが合理化されます。

Google の GenC フレームワークは、プライバシーを重視した Gen AI シナリオの設定方法を示す Python ベースのコード例を提供することで、開発者のエクスペリエンスを簡素化します。このコードにより、開発者はデータ処理をデバイス上で行うか、クラウド内の TEE に委任するかを制御できます。さらに、GenC の基盤となる中間表現 (IR) により、さまざまなプラットフォームや言語にまたがる Gen AI ロジックの展開が可能になり、一貫した動作が保証され、迅速なプロトタイピングと柔軟な展開が促進されます。Googleは、ソフトウェアとハ​​ードウェアのサポートを拡張する継続的な取り組みにより、Gen AI アプリケーションのパフォーマンスとモデルのサポートを強化する態勢を整えています。ソース：