Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Akamai（マサチューセッツ州ケンブリッジ）は、新サービス「Akamai Cloud Inference」を発表。大規模言語モデルの実用化を目指す組織に、迅速かつ効率的な支援を提供する。同サービスはAkamai Cloud上で稼働し、分散型プラットフォームを活用して中央集権型クラウドの制約に対応する。

Adam Karon氏は、AIデータの処理における課題を指摘。「トレーニングはデータセンターで行われるが、推論処理はエッジで実施する」と述べ、AkamaiのエッジプラットフォームがAIの未来に不可欠であると強調。同社は25年以上にわたりエッジ技術を構築してきた。

AkamaiのAI推論技術は、スループットを3倍に向上させ、レイテンシーを最大60%削減。従来のインフラと比較してAIワークロードを大幅に削減可能。GPUやASIC VPUを含む多様なコンピューティングオプションを提供し、NVIDIAのAIエコシステムとの統合を図る。

同社はデータ管理においても、VAST Dataと提携しリアルタイムデータへのアクセスを高速化。オブジェクトストレージやベクトルデータベースとの統合により、AIアプリケーションに必要なデータセットの管理を強化。コンテナ化により、耐障害性の向上やマルチクラウド対応を実現し、エッジコンピューティングではWebAssembly機能を活用して開発者の作業を簡素化する。

Akamai Cloud Inferenceは、1ペタバイト/秒以上のスループットを提供する大規模な分散型プラットフォーム上で動作。130カ国以上、1,200以上のネットワークを通じて、クラウドからエッジまでのコンピューティングリソースを提供し、アプリケーションのパフォーマンスを加速する。