GenerativeX (Shibuya-ku, Tokyo) mengumumkan bahwa mereka akan merilis parameter penyesuaian untuk model bahasa skala besar (LLM) yang dikembangkan untuk industri keuangan. Dalam industri keuangan, berbagai informasi kuantitatif perlu ditangani secara akurat, dan diperlukan LLM berkinerja tinggi. Namun, LLM berkinerja tinggi seperti ChatGPT memerlukan data untuk dikirim ke luar perusahaan, dan penggunaan LLM terbatas di industri keuangan, yang menangani informasi sensitif. Oleh karena itu, GenerativeX melengkapi model Llama2 Meta, yang menawarkan 70 miliar parameter, yang merupakan yang terbesar di antara sumber terbuka, dengan pengetahuan dari industri keuangan melalui penyempurnaan. Kami telah mengembangkan dan merilis LLM (adaptor LoRA) unik yang memungkinkan

GenerativeX didasarkan pada Llama2 (Llama-70B), salah satu model sumber terbuka terbesar, dan telah disempurnakan menggunakan kumpulan data publik yang berspesialisasi dalam bidang keuangan. Dengan menggunakan teknologi seperti LoRA dan kuantisasi serta GPU berperforma tinggi, pelatihan model dapat dilakukan secara efisien dalam waktu singkat. Model ini menunjukkan peningkatan akurasi dalam menjawab pertanyaan terkait keuangan dibandingkan dengan LLM umum. Perusahaan berencana untuk terus mengembangkan model yang mendukung kasus penggunaan khusus di bidang keuangan, seperti perbankan, sekuritas, dan asuransi.

Industri keuangan tidak hanya membutuhkan kemampuan menganalisis dan memanipulasi angka-angka, namun juga kemampuan untuk memperoleh saran bisnis spesifik dan wawasan strategis dari angka-angka tersebut. Mengingat hal ini, GenerativeX telah mengembangkan model yang memahami karakteristik industri keuangan dan telah disesuaikan untuk memenuhi kebutuhannya. Secara khusus, dengan membekalinya dengan kemampuan untuk menghasilkan saran dan interpretasi khusus untuk industri keuangan dari nilai numerik, hal ini akan berkontribusi dalam mendukung pengambilan keputusan dalam praktik dan meningkatkan kecanggihan bisnis.

Pengembangan model ini dilakukan dengan menggunakan GPU terbaru NVIDIA "NVIDIA H100 Tensor Core GPU (selanjutnya disebut NVIDIA H100"). Hal ini dimungkinkan oleh penerapan GenerativeX dalam versi uji coba "ConoHa byGMO", yang mulai disediakan oleh GMO Internet Group pada Agustus 2023 sebagai layanan hosting GPU yang dapat menggunakan "NVIDIA H100", perusahaan hosting domestik pertama yang melakukannya. Dikatakan bahwa dia melakukannya. GenerativeX telah menyatakan akan terus menggunakan layanan "ConoHa by GMO" untuk mengembangkan model.