Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
Useful Sensors が初の低コストのオフライン AI 通信モジュールを発表
Generatived
2023年9月21日
AI中心の新興企業であるUseful Sensorsは、電子デバイスとの直観的で自然言語によるコミュニケーションを容易にする世界初の低コストですぐに使えるAIモジュールを発表した。これはインターネット接続やアカウント登録を必要とせずに実現され、ユーザーのプライバシーと利便性が確保される。Useful Sensorsの最新製品であるAI-In-A-Boxモジュールは、インターネット接続なしで低コストのチップ上でLLMベースの自然言語対話を容易にするこの種のモジュールとしては初めてのものだ。このモジュールは、大規模言語モデル(LLM)に基づいた他のよく知られたAIツールと同様の方法でクエリーに応答し、問題を解決できる。ただし、このモジュールのユニークな機能は、Useful Sensorsが開発した圧縮および加速テクノロジーのおかげで、LLMファイルをローカルでホストできることだ。これにより、モジュールの低コストのマイクロプロセッサーが、データセンターを参照することなく、音声による自然言語のクエリーやコマンドを理解して応答できるようになる。AI-In-A-Boxモジュールはインターネット接続なしで動作する機能を備えており、プライバシー、スヌーピング、またはサードパーティーのクラウドサービスへの依存に関するユーザーの懸念に効果的に対処する。これは、大手テクノロジー企業が提供する従来のLLMベースのAI製品やサービスに共通する問題だ。AI-In-A-Boxモジュールは、他のよく知られたLLMベースのツールと同等の自然言語処理(NLP)パフォーマンスを提供する。質問に答えたり、物語やジョークを話したり、さまざまなトピックについて意見を提供したりできる。データセンターでホストされる高性能で高コストのGPUを必要とする他のツールとは異なり、AI-In-A-Boxモジュールは単一の汎用ArmCortex-Aクラスマイクロプロセッサーを使用して動作する。このローカル操作により、アカウント登録やシステム設定の必要がなくなり、プライバシーの懸念が完全に解消される。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Copyright © 2024 Generatived - All right Reserved.