半導体技術の世界的リーダーであるMediaTekは、オープンソースの大規模言語モデル（LLM）であるMetaのLlama 2との連携を発表した。MediaTekは、MetaのLLMとMediaTekの高度なAPUおよびNeuroPilot AIプラットフォームを組み合わせることで、スマートフォン、IoTデバイス、車両、スマートホームなどのさまざまなデバイスにわたるAIアプリケーション開発を加速する包括的なエッジコンピューティングエコシステムの構築を目指している。従来、生成AI処理はクラウドコンピューティングを通じて行われてきたが、MediaTekがLlama 2モデルを使用すると、生成AIアプリケーションをデバイス上で直接実行できるようになる。このアプローチは、開発者とユーザーに、パフォーマンスの向上、プライバシーとセキュリティーの強化、レーテンシーの短縮、接続が制限されているエリアでも作業できる機能、運用コストの削減など、いくつかの利点をもたらす。オンデバイスの生成AIテクノロジーを最大限に活用するには、デバイスメーカーはハイ コンピューティング、低電力AIプロセッサー、およびより高速な接続を採用する必要がある。MediaTekの5GスマートフォンSoCには、AIノイズリダクション、AI超解像度、AI MEMCなどの幅広い生成AI機能をサポートするAPUが既に搭載されている。さらに、今年後半にリリースされる予定のMediaTekの次期主力チップセットには、Llama 2用に最適化されたソフトウェアスタックと、Transformerバックボーンアクセラレーションを備えたアップグレードされたAPUが搭載される。これらの機能強化により、LLMとAIGCのパフォーマンスが向上し、オンデバイスの生成AIのユースケースの開発を迅速化できるようになる。MediaTekは、Llama 2ベースのAIアプリケーションが、年末までに同社の次世代フラッグシップSoCを搭載したスマートフォンで利用可能になると予想している。