top of page
Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
logo.png

Fermyon、AI推論の高速化を実現するサーバーレス AIを発表

Generatived

2023年9月6日

サーバーレスWebAssemblyの大手企業であるFermyon Technologiesは、AIの状況を変える新機能であるFermyon Serverless AIを発表した。Fermyon Serverless AIは50ミリ秒のコールドスタート時間を実現する。これは、他のオンデマンドAIインフラストラクチャーサービスよりも100倍以上高速だ。これにより、開発者はLLM上でエンタープライズAIアプリを手ごろな価格かつ簡単に構築して実行できるようになる。LLMは、テキストとコードの大規模なデータセットでトレーニングされる大規模な言語モデルだ。これらは、自然言語理解、機械翻訳、テキスト生成などのさまざまなタスクに使用できる。ただし、LLMは実行にかかる計算コストが高いため、企業による導入は限られている。Fermyon Serverless AIは、サーバーレスコンピューティングのパワーを活用してこの問題に対処する。サーバーレス コンピューティングを使用すると、開発者はサーバーのプロビジョニングや管理について心配することなくコードを実行できる。これにより、LLMを実行するためのコスト効率が高く、スケーラブルな方法になる。FermyonサーバーレスAIは、高速かつ手ごろな価格であることに加え、安全性と持続可能性も兼ね備えている。Fermyon Cloudは利用可能な中で最も安全なサーバーレスプラットフォームであり、Fermyon Serverless AIはCivoのカーボンニュートラルGPUコンピューティングサービスを利用している。Fermyon Serverless AIは現在プライベートベータ版だが、間もなく一般公開される予定だ。開発者は、https://developer.fermyon.com/cloud/serverless-aiでサインアップしてプライベートベータに参加できる。

Generatived

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

Copyright © 2024 Generatived - All right Reserved.

bottom of page