Di NVIDIA AI Day Tokyo, NVIDIA (California) mengumumkan bahwa mereka telah mulai menawarkan "Stockmark-2-100B-Instruct," yang dikembangkan oleh startup AI Stockmark, sebagai layanan mikro NVIDIA NIM. Perusahaan juga menjelaskan bagaimana kapabilitas NVIDIA NIM mengatasi tantangan penerapan LLM dalam praktik.

NVIDIA NIM menyediakan layanan mikro berbasis cloud yang menyederhanakan penerapan model AI dan pengembangan aplikasi. Layanan ini memungkinkan penerapan model AI di mana saja, berkontribusi pada waktu pemasaran yang lebih cepat. Layanan ini mendukung beragam model AI dan mendukung berbagai kasus penggunaan, termasuk LLM dan VLM.

Stockmark (Tokyo) adalah anggota program NVIDIA Inception dan mengembangkan LLM Jepang "Stockmark-2." Melalui kolaborasi industri-akademisi, perusahaan telah mengembangkan teknologi dan membangun rekam jejak dalam mengembangkan model yang khusus untuk bahasa Jepang. Dikembangkan dari awal, layanan ini mencapai kinerja yang sangat akurat dalam memahami konteks bisnis.

Stockmark-2 unggul dalam meringkas dan menganalisis dokumen dan percakapan bisnis Jepang, dan dapat dioperasikan secara efisien melalui NVIDIA NIM. Pengembang dapat dengan mudah menggunakan model berskala besar, sehingga praktis untuk menggunakan LLM domestik bahkan di bidang yang membutuhkan kerahasiaan. CTO Stockmark, Arima, menekankan manfaat efisiensi dan optimalisasi sumber daya melalui penyediaan NIM.