Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

ServiceNow (Santa Clara, California), cùng với Hugging Face và NVIDIA, đã phát hành mô hình ngôn ngữ quy mô lớn mới, StarCoder2. Mô hình được đào tạo bằng 619 ngôn ngữ lập trình khác nhau để thực hiện các tác vụ như tạo mã và tạo quy trình làm việc. Nhà phát triển có thể sử dụng các tính năng như hoàn thành mã và tóm tắt mã để cải thiện năng suất.

StarCoder2 có ba kích cỡ mô hình: 3 tỷ, 7 tỷ và 15 tỷ tham số. Mô hình 3 tỷ tham số do ServiceNow đào tạo có hiệu suất tương đương với mô hình 15 tỷ tham số StarCoder ban đầu trong khi giảm chi phí tính toán. Được phát triển bởi Hugging Face và NVIDIA và được xây dựng bằng NVIDIA NeMo.

Harm de Vries (ServiceNow) và Leandro von Werra (Hugging Face) nhấn mạnh rằng StarCoder2 thể hiện các hoạt động thực hành AI có trách nhiệm thông qua chuỗi cung ứng dữ liệu có đạo đức và cộng tác khoa học mở. Jonathan Cohen (NVIDIA) cho biết StarCoder2 sẽ thúc đẩy hiệu quả và sự đổi mới trong hệ sinh thái phần mềm.

StarCoder2 có khả năng chuyển văn bản thành mã và chuyển văn bản thành quy trình công việc, mở rộng khả năng của các ứng dụng mã hóa dựa trên AI. Cộng đồng BigCode cũng đang tận dụng khung Fast LLM của ServiceNow, khung nanotron của Hugging Face và phần mềm NVIDIA NeMo và TensorRT-LLM để đào tạo các mô hình. Thúc đẩy sự đổi mới có trách nhiệm là mục đích của BigCode, được thể hiện thông qua quản trị mở và chuỗi cung ứng minh bạch.