Touchcast は、Microsoft Azureでの大規模言語モデル (LLM) の配信とスケーラビリティを強化するために設計された、先駆的なコグニティブ コンテンツ配信ネットワーク (cCDN) を発表しました。すべてのAzureデータ センターにまたがるこのグローバル ネットワークには、Touchcast の革新的なコグニティブ キャッシング テクノロジと、 Azure OpenAI サービス モデルを実行するスーパークラスターが組み込まれています。この取り組みは、ジェネレーティブ AI (GenAI) アプリケーションのコスト効率とパフォーマンスを最適化し、企業の目標と確実に一致させることを目指しています。
この新しいプラットフォームの中核をなすのは、同社独自の CogCache テクノロジーです。このテクノロジーにより、AI 生成コンテンツのインテリジェントなキャッシュと配信が可能になります。このアプローチにより、LLM の計算負荷が大幅に軽減され、応答時間が短縮され、より手頃な価格の GenAI エクスペリエンスが実現します。cCDN は、GPU などの計算リソースの不足により課題となっていた LLM の需要増大に対応することを目指しています。
生成型 AI 市場は今後 10 年間で 1.3 兆ドルに急成長すると予想されており、Touchcast の cCDN は業界の計算ボトルネックに対する戦略的な対応となります。cCDN は運用コストを最大 50% 削減するだけでなく、LLM 応答時間を最大 100 倍高速化します。このインフラストラクチャは、数十億のユーザーが AI を利用したサービスを利用できるようにすると同時に、エネルギー効率とコスト削減を優先します。
Touchcast と Microsoft のコラボレーションは、GenAI をよりアクセスしやすく、持続可能なものにするという両社の共通のビジョンの証です。cCDN は、生成 AI 技術の広範な採用を促進することで、インターネット初期の CDN が果たした役割と同様に、GenAI の分野で変革をもたらす力となる予定です。
出典：プレスリリース
