TensorOpera baru-baru ini mengumumkan Fox-1, model bahasa ringkas baru yang menawarkan 1,6 miliar parameter dan mendukung bidang AI generatif. Model ini lebih unggul dibandingkan produk serupa dari raksasa teknologi dan memberikan opsi yang lebih mudah diakses bagi pengembang dan perusahaan untuk membuat dan menerapkan model dan aplikasi AI di berbagai infrastruktur.

Inovasi terbaru perusahaan, Fox-1, membentuk kembali industri AI dengan menawarkan kemampuan yang kuat sekaligus mengurangi kebutuhan komputasi dan data secara signifikan. Perkembangan ini akan sangat bermanfaat bagi perangkat seluler dan edge, sehingga memungkinkan aplikasi AI diterapkan secara lebih luas sambil mempertahankan kinerja tinggi.

Salman Avestimehr, salah satu pendiri dan CEO TensorOpera, menekankan pentingnya mengintegrasikan Fox-1 ke dalam platform AI perusahaan. Dia menekankan tujuan perusahaan untuk mempromosikan platform edge cloud terpadu untuk AI generatif. Hal ini memungkinkan pelatihan, pembuatan, dan penerapan aplikasi AI dengan lancar di berbagai platform dan perangkat. Strategi ini bertujuan untuk meningkatkan efisiensi pengguna, privasi, dan personalisasi.

Arsitektur Fox-1 mencakup struktur transformator khusus dekoder dan perhatian kueri yang dikelompokkan, yang melebihi kedalaman dan fungsionalitas pesaingnya. Model ini telah dilatih secara menyeluruh dan telah menunjukkan performa yang unggul atau sebanding pada berbagai tolok ukur. Selain itu, throughput Fox-1 yang unggul pada platform layanan model TensorOpera disebabkan oleh desain arsitektur efisien yang meningkatkan latensi inferensi dan waktu respons.

Fleksibilitas model ini semakin ditingkatkan dengan integrasinya ke dalam platform TensorOpera AI dan platform TensorOpera FedML, sehingga memungkinkan penggunaan di lingkungan komputasi cloud dan edge. Integrasi ini akan memungkinkan pengembang AI untuk melatih dan membangun model di cloud dan menerapkannya ke perangkat seperti ponsel pintar dan PC yang mendukung AI, mengurangi biaya, meningkatkan privasi, dan memberikan pengalaman unik yang dipersonalisasi. Fox-1 tersedia di bawah lisensi Apache 2.0, memberikan kebebasan luas kepada komunitas untuk aplikasi produksi dan penelitian.