Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Personal AIは、AIワークロードの分散を最適化するために設計された革新的なフレームワークであるAI Gridを活用することでAI機能を強化するため、Comcastと戦略的パートナーシップを締結しました。NVIDIA GTCで発表されたこの提携は、ネットワークエッジコンピューティングの力を活用することで、次世代アプリケーションの提供を加速することを目的としています。AI Gridのトライアルに不可欠なPersonal AIの小型言語モデルは、リアルタイムのパーソナライズされた音声アプリケーションの運用コストを削減しながら、応答時間とユーザー固有のメモリを改善することが期待されます。

コムキャストの広大なネットワークインフラは、米国全土6500万ヶ所以上に及んでおり、今回の取り組みによってコンピューティング能力を消費者に近づけることで、その恩恵を受けることが期待されます。この動きは、リアルタイムAI推論のための国内最大規模のプラットフォームの一つを確立する可能性を秘めています。コムキャストのフィラデルフィア本社で行われた試験では、Personal AIのグリッド対応アーキテクチャの技術的および経済的な実現可能性が既に実証されており、AIサービスにおける分散型推論の将来性の高さを示唆しています。

AIグリッドの概念は、推論ワークロードを様々なネットワークコンポーネントに分散させることで、従来のクラウドベースアーキテクチャの固有の限界を克服することを目指しています。パーソナルAIのアプローチは、メモリをモデルに直接組み込むことで、大規模でコンテキスト依存型のモデルへの依存度を低減します。その代わりに、メモリコアを備えた専用モデルを活用し、様々な顧客グループに対応します。これらのモデルは、ネットワークエッジで動作するのに十分なコンパクトさを備えているだけでなく、動的で、時間の経過とともに会話メモリを維持します。この戦略により、リアルタイムでマルチモーダルな、高度にパーソナライズされたAI体験を大規模に提供することが可能になります。

NVIDIAのRTX PRO 6000 Blackwell Server Edition GPUは、Personal AIの小型言語モデルの処理速度を向上させ、エンドユーザーに近い場所でクラウド並みのレーテンシー、並列処理、スループットを実現します。この技術革新は、AIと通信が融合し、推論タスクに最適な分散型エッジAIネットワークが構築されるという、極めて重要な局面を示しています。NVIDIAの技術を基盤とするComcastとPersonal AIの共同開発は、通信業界におけるリアルタイムAIサービスへの厳しい要求に応えるものとなるでしょう。