top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

Rocket Money がHugging Faceサポートによるスケーリングの成功を発表

Generatived

23/9/20 10:46

個人向け財務アプリであるRocket Moneyは、トランザクション処理のためのMLモデルのスケーリングと維持において困難に直面した。当初は正規表現を利用していたが、ユーザーベースと製品範囲の拡大に対応することが困難であることが分かった。従来のMLソリューションが検討されたが、メンテナンスとパフォーマンスの問題が発生した。これらの課題に対応するため、Rocket Moneyは新しいチームを編成し、カスタムMLモデルを一から構築し始めた。彼らはRetoolを使用してラベル付けキューと検証データセットを作成し、テキスト分類にBERTモデルを選択した。このモデルはGoogle Cloud Platform (GCP)内でオフラインでテストされ、4,000を超えるクラスで強力なパフォーマンスを実証した。ただし、このモデルを生産パイプラインに組み込むと、新たな課題が生じた。彼らはAWS Sagemakerなどのさまざまなオプションを評価したが、セットアップが簡単で負荷テスト中のパフォーマンスが堅牢であるため、最終的にHugging Faceを選択した。Rocket Moneyは、本番パイプラインの稼働時間と低レーテンシーを維持する必要性を強調した。Hugging Faceとのコラボレーション中に課題に直面したにもかかわらず、両チームは協力して問題を解決し、モデルの展開に自信を築いた。Hugging Faceのサポートにより、Rocket Moneyは、低レーテンシーを維持しながら、月当たり10億件以上のトランザクションを処理できるようにモデルを拡張することができた。将来的には、クラスとパフォーマンスのチューニング、自動モニタリング、ラベルシステムに注力する予定だ。彼らはまた、特定の使用例に対してトランスフォーマー分類子を検討する可能性についても言及した。Rocket Moneyは、Hugging Faceの推論APIと、目的を達成するためのパートナーシップを賞賛した。このコラボレーションにより、Rocket Moneyはモデルの展開と運用をHugging Faceに依存しながら、モデルから価値を引き出すことに集中できるようになった。

この記事を共有:

最新のニュース
Sourcegraph がコード理解のための AI を強化

Sourcegraph がコード理解のための AI を強化

24/11/8 4:30

Sourcegraph は最近、コード生成と理解における AI の機能を強化するための共同事業に乗り出しました。

サムライトSNS・EC・AIカンファ参加

サムライトSNS・EC・AIカンファ参加

24/11/8 4:30

サムライト(東京都港区)は、SNSやEC、AI、CXをテーマにしたオンラインカンファレンス「com/PASS」に登壇する。

AI Picasso画像生成AIサービス開始

AI Picasso画像生成AIサービス開始

24/11/8 4:30

AI Picasso(東京都港区)は、企業向けの画像生成AIサービスを開始し、新コーポレートサイトを2024年11月07日に開設した。

GTI人材募集5G-A×AIプロジェクト

GTI人材募集5G-A×AIプロジェクト

24/11/8 4:30

GTI(イスタンブール)は、MBBF 2024で「インテリジェントRAN・ユビキタスAIプロジェクト」のグローバル人材採用を発表。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
Sourcegraph がコード理解のための AI を強化

Sourcegraph がコード理解のための AI を強化

24/11/8 4:30

Sourcegraph は最近、コード生成と理解における AI の機能を強化するための共同事業に乗り出しました。

サムライトSNS・EC・AIカンファ参加

サムライトSNS・EC・AIカンファ参加

24/11/8 4:30

サムライト(東京都港区)は、SNSやEC、AI、CXをテーマにしたオンラインカンファレンス「com/PASS」に登壇する。

AI Picasso画像生成AIサービス開始

AI Picasso画像生成AIサービス開始

24/11/8 4:30

AI Picasso(東京都港区)は、企業向けの画像生成AIサービスを開始し、新コーポレートサイトを2024年11月07日に開設した。

GTI人材募集5G-A×AIプロジェクト

GTI人材募集5G-A×AIプロジェクト

24/11/8 4:30

GTI(イスタンブール)は、MBBF 2024で「インテリジェントRAN・ユビキタスAIプロジェクト」のグローバル人材採用を発表。

bottom of page