SiMa.ai baru-baru ini mengumumkan bahwa mereka telah menerapkan DeepSeek-R1-Distill-Qwen-1.5B pada platform ONE untuk AI edge, yang menunjukkan kinerja luar biasa dengan konsumsi daya kurang dari 10 watt. Pencapaian ini merupakan langkah maju yang besar dalam penerapan teknologi AI edge yang efisien dan aman. Didukung oleh perangkat lunak MLSoC Modalix dan Palette, platform ONE milik perusahaan menunjukkan respons yang sangat baik dengan time to first token (TTFT) hanya beberapa milidetik dan dapat diskalakan secara efektif dengan kompleksitas kueri.

Krishna Rangasayee, CEO dan pendiri SiMa.ai, menyoroti pentingnya model sumber terbuka seperti DeepSeek R1 dalam mendemokratisasi AI dan meningkatkan penerapan GenAI di edge. Teknologi SiMa.ai dirancang untuk memberikan kinerja tingkat tinggi sepenuhnya di edge sambil mempertahankan konsumsi daya yang rendah, sehingga menciptakan peluang baru untuk penerapan AI di berbagai pasar, termasuk robotika, otomotif, dan kedirgantaraan.

Detail implementasi menunjukkan bahwa DeepSeek-R1-Distill-Qwen-1.5B beroperasi dengan efisiensi daya terdepan di industri dan waktu respons cepat, dengan TTFT berkisar antara 0,67 hingga 2,50 detik. Perusahaan juga memiliki peta jalan pengoptimalan untuk lebih meningkatkan kinerja. Dengan beroperasi sepenuhnya di edge, SiMa.ai memberi pengguna kendali atas data mereka dan menghindari masalah keamanan dan privasi yang biasanya menyertai penerapan cloud.

Organisasi yang tertarik dengan platform ONE SiMa.ai dan implementasi DeepSeek R1 dapat bergabung dengan Program Akses Awal Modalix, yang memberikan wawasan tentang peta jalan perusahaan untuk model bahasa berskala besar dan solusi AI generatif. Untuk informasi lebih lanjut dan untuk terlibat, kunjungi situs web SiMa.ai.