top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

FriendliAI、AI 統合のためのサーバーレス エンドポイントを開始

Generatived

24/1/5 10:17

FriendliAI は、生成 AI モデルのさまざまなアプリケーションへの統合を容易にするように設計されたサービスである、新しい Friendli Serverless Endpoints を発表しました。この製品は、そのようなモデルに通常関連付けられているインフラストラクチャをユーザーが管理する必要性を排除することで、開発プロセスを簡素化することを目的としている。このサービスは、Llama 2、CodeLlama、Mistral、Stable Diffusion などの広く使用されているモデルとの互換性を誇り、リソース使用率を詳細に制御できる。

同社によりますと、Serverless Endpointsには競争力のある価格モデルが導入され、Llama 2 13B モデルでは 100 万トークンあたり 0.2 ドル、Llama 2 70B モデルでは 100 万トークンあたり 0.8 ドルが請求されるとのことだ。また、FriendliAIは、自社のサービスが他の主要なソリューションよりも 2 ~ 4 倍速い速度でクエリ応答を提供すると主張している。この効率は独自の Friendli エンジンによるもので、動作に必要な GPU の数が大幅に減り、それによってコストが削減され、パフォーマンスが向上すると述べている。

FriendliAIによりますと、特定のニーズを持つクライアントのために、個々の要件に合わせて調整されたクラウドベースのGPUインスタンスを提供するFriendli専用エンドポイントも提供している。さらに、同社はDockerを通じて利用できるFriendli Containerを使用して、コンテナ化されたソリューションを好むユーザーにも対応しているとのことだ。この幅広いオプションは、多様な生成AIプロジェクトに対応することを目的としていて、ユーザーが独自の目的に適したソリューションを確実に見つけられるようにしている。

この記事を共有:

最新のニュース
DryRun SecurityがAIコーディングエージェントの欠陥を暴露

DryRun SecurityがAIコーディングエージェントの欠陥を暴露

26/3/13 0:00

DryRun Securityは、AIコーディングエージェントがソフトウェア開発を加速させる一方で、セキュリティ上の脆弱性をもたらす傾向があることを示す新たな調査結果を発表しました。

Opinosis AnalyticsがAI統合準備ツールをリリース

Opinosis AnalyticsがAI統合準備ツールをリリース

26/3/13 0:00

ユタ州ウェストジョーダン – 企業がAI活用において直面する課題に対応するため、Opinosis Analyticsは新たな診断ツールを発表しました。

Entity、AIに最適化された4つの新しいMTIAチップを発表

Entity、AIに最適化された4つの新しいMTIAチップを発表

26/3/13 0:00

同社は、今後2年以内に4世代のカスタムビルドシリコンチップを開発・導入するという野心的な計画を発表しました。

AIヘルスイニシアチブがオーストラリアの遠隔医療を強化

AIヘルスイニシアチブがオーストラリアの遠隔医療を強化

26/3/13 0:00

オーストラリアの医療環境は、都市部に比べて心臓病による死亡リスクが60%高い遠隔地住民の健康状態改善を目指す新たな取り組みの恩恵を受けることになります。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
DryRun SecurityがAIコーディングエージェントの欠陥を暴露

DryRun SecurityがAIコーディングエージェントの欠陥を暴露

26/3/13 0:00

DryRun Securityは、AIコーディングエージェントがソフトウェア開発を加速させる一方で、セキュリティ上の脆弱性をもたらす傾向があることを示す新たな調査結果を発表しました。

Opinosis AnalyticsがAI統合準備ツールをリリース

Opinosis AnalyticsがAI統合準備ツールをリリース

26/3/13 0:00

ユタ州ウェストジョーダン – 企業がAI活用において直面する課題に対応するため、Opinosis Analyticsは新たな診断ツールを発表しました。

Entity、AIに最適化された4つの新しいMTIAチップを発表

Entity、AIに最適化された4つの新しいMTIAチップを発表

26/3/13 0:00

同社は、今後2年以内に4世代のカスタムビルドシリコンチップを開発・導入するという野心的な計画を発表しました。

AIヘルスイニシアチブがオーストラリアの遠隔医療を強化

AIヘルスイニシアチブがオーストラリアの遠隔医療を強化

26/3/13 0:00

オーストラリアの医療環境は、都市部に比べて心臓病による死亡リスクが60%高い遠隔地住民の健康状態改善を目指す新たな取り組みの恩恵を受けることになります。

bottom of page