ServiceNow(AS) telah memperluas kemitraannya dengan NVIDIA dan mengumumkan model inferensi baru, Apriel Nemotron 15B. Model ini mencapai latency rendah dan mengurangi biaya inferensi untuk mempercepat AI agen. ServiceNow juga mengungkapkan rencana untuk berintegrasi dengan layanan mikro NVIDIA NeMo guna mempercepat pemrosesan data untuk Workflow Data Fabric.

Apriel Nemotron 15B adalah LLM yang dikhususkan untuk alur kerja real-time yang berjalan secara efisien pada infrastruktur GPU NVIDIA. LLM ini dilatih pada NVIDIA DGX Cloud dan menyediakan kemampuan inferensi tingkat lanjut dalam ukuran kecil. LLM ini diharapkan menjadi alat untuk membantu perusahaan memanfaatkan AI dan mengatasi kompleksitas bisnis.

Melalui integrasi Workflow Data Fabric dan layanan mikro NVIDIA NeMo, ServiceNow dan NVIDIA akan menciptakan arsitektur roda gila data yang mengumpulkan dan mengontekstualisasikan data perusahaan untuk menyempurnakan dan mengoptimalkan model inferensi, mempercepat pengembangan agen AI yang dipersonalisasi sekaligus memastikan keamanan dan compliance.

John Sigler dari ServiceNow dan Kari Briski dari NVIDIA mengatakan mereka akan bekerja sama untuk meningkatkan kinerja agen AI. Model Apriel Nemotron 15B dijadwalkan akan tersedia pada kuartal kedua tahun fiskal 2025, dan kolaborasi untuk mendukung alur kerja perusahaan akan terus berlanjut. ServiceNow dan NVIDIA berencana untuk bekerja sama guna mewujudkan masa depan di mana agen AI menanggapi kebutuhan pelanggan.