Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

SiMa.ai は最近、エッジ AI 向け ONE プラットフォームに DeepSeek-R1-Distill-Qwen-1.5B を導入し、10 ワット未満の消費電力で優れたパフォーマンスを発揮したことを発表しました。この成果は、エッジ AI テクノロジーの効率的で安全な導入における大きな前進です。MLSoC Modalix と Palette ソフトウェアを搭載した同社の ONE プラットフォームは、数ミリ秒という短い最初のトークンまでの時間 (TTFT) で優れた応答性を示し、クエリの複雑さに応じて効果的にスケーリングします。

SiMa.ai の CEO 兼創設者である Krishna Rangasayee 氏は、AI の民主化とエッジでの GenAI の導入強化における DeepSeek R1 などのオープンソース モデルの重要性を強調しました。SiMa.ai のテクノロジーは、エッジで完全に高レベルのパフォーマンスを提供するように設計されており、低消費電力を維持することで、ロボット工学、自動車、航空宇宙など、さまざまな市場で AI を導入する新しい機会が生まれます。

実装の詳細から、DeepSeek-R1-Distill-Qwen-1.5B は業界トップクラスの電力効率と高速応答時間で動作し、TTFT は 0.67 ～ 2.50 秒であることがわかります。同社はまた、パフォーマンスをさらに向上させるための最適化ロードマップも用意しています。完全にエッジで動作することで、SiMa.ai はユーザーがデータを制御できるようにし、クラウド展開に伴う一般的なセキュリティとプライバシーの問題を回避します。

SiMa.ai の ONE プラットフォームと DeepSeek R1 実装に関心のある組織は、Modalix 早期アクセス プログラムに参加できます。このプログラムでは、同社の大規模言語モデルと生成 AI ソリューションのロードマップに関する洞察が得られます。詳細や参加方法については、SiMa.ai の Web サイトをご覧ください。