Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
Rocket Money がHugging Faceサポートによるスケーリングの成功を発表
Generatived
23/9/20 10:46
個人向け財務アプリであるRocket Moneyは、トランザクション処理のためのMLモデルのスケーリングと維持において困難に直面した。当初は正規表現を利用していたが、ユーザーベースと製品範囲の拡大に対応することが困難であることが分かった。従来のMLソリューションが検討されたが、メンテナンスとパフォーマンスの問題が発生した。これらの課題に対応するため、Rocket Moneyは新しいチームを編成し、カスタムMLモデルを一から構築し始めた。彼らはRetoolを使用してラベル付けキューと検証データセットを作成し、テキスト分類にBERTモデルを選択した。このモデルはGoogle Cloud Platform (GCP)内でオフラインでテストされ、4,000を超えるクラスで強力なパフォーマンスを実証した。ただし、このモデルを生産パイプラインに組み込むと、新たな課題が生じた。彼らはAWS Sagemakerなどのさまざまなオプションを評価したが、セットアップが簡単で負荷テスト中のパフォーマンスが堅牢であるため、最終的にHugging Faceを選択した。Rocket Moneyは、本番パイプラインの稼働時間と低レーテンシーを維持する必要性を強調した。Hugging Faceとのコラボレーション中に課題に直面したにもかかわらず、両チームは協力して問題を解決し、モデルの展開に自信を築いた。Hugging Faceのサポートにより、Rocket Moneyは、低レーテンシーを維持しながら、月当たり10億件以上のトランザクションを処理できるようにモデルを拡張することができた。将来的には、クラスとパフォーマンスのチューニング、自動モニタリング、ラベルシステムに注力する予定だ。彼らはまた、特定の使用例に対してトランスフォーマー分類子を検討する可能性についても言及した。Rocket Moneyは、Hugging Faceの推論APIと、目的を達成するためのパートナーシップを賞賛した。このコラボレーションにより、Rocket Moneyはモデルの展開と運用をHugging Faceに依存しながら、モデルから価値を引き出すことに集中できるようになった。
最新のニュース
AI Picasso画像生成AIサービス開始
24/11/8 4:30
AI Picasso(東京都港区)は、企業向けの画像生成AIサービスを開始し、新コーポレートサイトを2024年11月07日に開設した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
AIと法律/制度/経済/社会
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
AI Picasso画像生成AIサービス開始
24/11/8 4:30
AI Picasso(東京都港区)は、企業向けの画像生成AIサービスを開始し、新コーポレートサイトを2024年11月07日に開設した。