Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

サンフランシスコ、2025年11月20日 – Crusoeは、AIモデル推論を卓越したスピードとスケーラビリティで強化することを目的とした最新サービス「Crusoe Managed Inference」を発表しました。Crusoe Cloudで一般提供が開始されたこのサービスは、超低レーテンシーと驚異的なTTFT（Time-to-First-Token）速度を実現し、長文テキスト生成やAIエージェントといった複雑なタスクに取り組むAI開発者のニーズに応えます。Crusoe Managed Inferenceは、本番環境対応モデルの迅速な導入と自動スケーリングを可能にし、開発プロセスを効率化します。

このサービスは、MemoryAlloyテクノロジーを組み込んだCrusoe独自の推論エンジンを搭載しています。このクラスター全体のKVキャッシュテクノロジーにより、GPUはローカルノードとリモートノードの両方からプレフィックスキャッシュに瞬時にアクセスでき、冗長なプリフィルを回避できます。CrusoeのMemoryAlloyは、永続的なセッションとコンテキストの継続性を確保し、クラスター間のシームレスなスケーリングを可能にするクラスターネイティブのメモリファブリックです。このイノベーションは、AI開発者に、より効率的で費用対効果の高い推論アプローチを提供します。

Crusoeの製品担当SVPであるErwan Menard氏は、開発者が推論速度、スループット、インフラコストのバランスを取る上で直面する課題について強調しました。Crusoe Managed Inferenceは、推論スタックの複雑さを排除することでこれらの課題に対処し、開発者がインフラ管理の負担なしに高度なAIアプリケーションの開発に集中できるようにします。このサービスのMemoryAlloyテクノロジーは、比類のないTTFTとスループットを保証し、大規模AIアプリケーションのデリバリーを大幅に向上させます。

Crusoe Managed Inferenceは、AI開発者のモデル開発から本番環境へのプロセスを加速する包括的なハブであるCrusoe Intelligence Foundryの一部です。このファウンドリーは、主要なオープンソースモデルへのアクセス、MemoryAlloy最適化を備えたマネージドエンドポイント、大規模展開におけるプロビジョニングされたスループットの監視と有効化のためのツールを提供します。この統合環境により、チームは推論タスクとインフラストラクチャリソース管理の間をスムーズに移行できます。Crusoeの新しいサービスはAI開発者向けに提供開始され、Crusoe Intelligence Foundryを通じてトップモデルのライブラリを閲覧し、プロジェクトを開始できます。