Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Cerebras Systems và Petuum, phối hợp với MBZUAI, đã giới thiệu 'CrystalCoder', một mô hình AI mới với 7 tỷ tham số có khả năng xử lý cả tác vụ tiếng Anh và mã hóa với độ chính xác cao. Không giống như các phiên bản trước chuyên về ngôn ngữ hoặc mã hóa, CrystalCoder vượt trội ở cả hai lĩnh vực. Mô hình được đào tạo trên Condor Galaxy 1, siêu máy tính AI do G42 và Cerebras phát triển. CrystalCoder-7B tuân thủ phương pháp LLM360, trong đó nhấn mạnh đến khả năng tái tạo và thực hành AI có trách nhiệm, đồng thời hiện có thể truy cập được thông qua Ôm mặt.

Là nỗ lực chung của Petuum, MBZUAI và Cerebras, phương pháp LLM360 nhằm mục đích tăng cường tính mở và bảo mật của AI tạo sinh bằng cách cung cấp tài nguyên toàn diện để nhân rộng mô hình. Điều này bao gồm việc chia sẻ các điểm kiểm tra đào tạo 360, nhóm dữ liệu cũng như các tập lệnh và công cụ khác nhau theo giấy phép Apache 2.0. Sáng kiến ​​này là một phần của phong trào rộng lớn hơn trong cộng đồng nguồn mở nhằm làm cho các mô hình AI tiên tiến trở nên dễ tiếp cận và dễ hiểu hơn, thúc đẩy nghiên cứu và thúc đẩy hợp tác.

Hiệu suất của CrystalCoder rất đáng chú ý. Nó có thể so sánh với độ chính xác mã hóa dựa trên StarCoder và có thể so sánh với các mô hình như Llama và MPT-7B trong các tác vụ ngôn ngữ. Hai năng lực này thể hiện một bước tiến đáng kể, cung cấp cho các nhà phát triển một mô hình duy nhất có thể giải quyết hiệu quả cả yêu cầu về mã hóa và ngôn ngữ. Trước đây, người dùng phải lựa chọn giữa các mô hình được tối ưu hóa cho tác vụ này hay tác vụ khác, nhưng CrystalCoder hiện cung cấp giải pháp tích hợp cho cả hai miền.