Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

AI中心の新興企業であるUseful Sensorsは、電子デバイスとの直観的で自然言語によるコミュニケーションを容易にする世界初の低コストですぐに使えるAIモジュールを発表した。これはインターネット接続やアカウント登録を必要とせずに実現され、ユーザーのプライバシーと利便性が確保される。

Useful Sensorsの最新製品であるAI-In-A-Boxモジュールは、インターネット接続なしで低コストのチップ上でLLMベースの自然言語対話を容易にするこの種のモジュールとしては初めてのものだ。このモジュールは、大規模言語モデル（LLM）に基づいた他のよく知られたAIツールと同様の方法でクエリーに応答し、問題を解決できる。ただし、このモジュールのユニークな機能は、Useful Sensorsが開発した圧縮および加速テクノロジーのおかげで、LLMファイルをローカルでホストできることだ。これにより、モジュールの低コストのマイクロプロセッサーが、データセンターを参照することなく、音声による自然言語のクエリーやコマンドを理解して応答できるようになる。



AI-In-A-Boxモジュールはインターネット接続なしで動作する機能を備えており、プライバシー、スヌーピング、またはサードパーティーのクラウドサービスへの依存に関するユーザーの懸念に効果的に対処する。これは、大手テクノロジー企業が提供する従来のLLMベースのAI製品やサービスに共通する問題だ。

AI-In-A-Boxモジュールは、他のよく知られたLLMベースのツールと同等の自然言語処理（NLP）パフォーマンスを提供する。質問に答えたり、物語やジョークを話したり、さまざまなトピックについて意見を提供したりできる。データセンターでホストされる高性能で高コストのGPUを必要とする他のツールとは異なり、AI-In-A-Boxモジュールは単一の汎用Arm Cortex-Aクラスマイクロプロセッサーを使用して動作する。このローカル操作により、アカウント登録やシステム設定の必要がなくなり、プライバシーの懸念が完全に解消される。