NVIDIA telah mengumumkan contoh pengembang baru yang mendemonstrasikan penggunaan model bahasa skala besar (LLM) dalam keuangan kuantitatif. Contoh ini menunjukkan bagaimana teknologi NVIDIA memfasilitasi penyempurnaan dan penyempurnaan model secara berkelanjutan, memungkinkan integrasi yang mulus ke dalam alur kerja keuangan. Proses ini penting bagi pasar keuangan, di mana data yang berkembang pesat membutuhkan adaptasi model yang berkelanjutan untuk menghasilkan sinyal alfa, menganalisis laporan, dan memprediksi risiko.

Contoh pengembang AI Model Distillation for Financial Data dirancang untuk peneliti kuantitatif, pengembang AI, dan ilmuwan data perusahaan. Contoh ini menggunakan kumpulan data umpan berita keuangan untuk mengekstrak fitur dari data tak terstruktur untuk riset alfa dan prediksi risiko. Hasilnya adalah serangkaian model yang lebih kecil dan spesifik domain yang dioptimalkan untuk tugas-tugas spesifik, mengurangi beban komputasi dan biaya penerapan sekaligus mempertahankan akurasi tinggi.

Distilasi model, fitur utama sampel pengembang, melibatkan transfer pengetahuan dari model guru yang besar dan berkinerja tinggi ke model siswa yang lebih ringkas dan efisien. Proses ini memungkinkan inferensi yang lebih cepat dan konsumsi sumber daya yang lebih rendah, sehingga model dapat diterapkan di lingkungan edge dan hybrid tanpa mengorbankan akurasi spesifik tugas.

Contoh pengembang ini menyediakan kerangka kerja praktis untuk adaptasi domain berkelanjutan dan distilasi model guna menciptakan model yang lebih kecil dan berkinerja lebih tinggi yang disesuaikan untuk data keuangan perusahaan. Kerangka kerja ini memanfaatkan komponen NVIDIA NeMo, NVIDIA Nemotron, NVIDIA NIM, dan Docker untuk mengembangkan data flywheel untuk rekayasa fitur, evaluasi sinyal, dan pelatihan ulang. Arsitekturnya mendukung penerapan di lingkungan cloud lokal maupun hybrid, serta mematuhi standar tata kelola data keuangan.

Contoh pengembang ini bertujuan untuk mengurangi latency dan biaya inferensi sekaligus mempertahankan akurasi dengan mengekstraksi LLM besar menjadi versi yang efisien dan spesifik domain, serta sesuai untuk teks keuangan. Hal ini mempercepat pengujian ulang dan evaluasi strategi dengan memungkinkan iterasi dan evaluasi sinyal perdagangan yang cepat. Lebih lanjut, pelacakan eksperimen bawaan memfasilitasi evaluasi model, memastikan skalabilitas dan observabilitas, serta memungkinkan model yang diekstraksi untuk diterapkan dalam alur kerja AI keuangan di berbagai lingkungan.