Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Sourcegraph gần đây đã bắt tay vào một liên doanh nhằm nâng cao khả năng của AI trong việc tạo và hiểu mã. Bằng cách tận dụng các cửa sổ ngữ cảnh dài, công ty đặt mục tiêu nâng cao hiểu biết về các cơ sở mã lớn, phức tạp vốn là thách thức đối với các mô hình AI truyền thống. Công ty đã hợp tác với những người tạo ra trợ lý mã hóa Cody AI, vốn đã được các công ty có cơ sở mã lớn sử dụng, để tạo ra một khung thực tế để thử nghiệm tiềm năng của các mô hình AI tiên tiến này trong các tình huống thực tế mà chúng tôi cung cấp.

Để định lượng lợi ích của việc sử dụng Cửa sổ ngữ cảnh nâng cao, Sourcegraph đã thực hiện một loạt thử nghiệm so sánh hiệu suất của Cody với Cửa sổ ngữ cảnh mã thông báo 1M với phiên bản tiêu chuẩn. Thử nghiệm tập trung vào việc trả lời các câu hỏi kỹ thuật, đây là những tính năng quan trọng đối với nhà phát triển. Kết quả là, chúng tôi đã thấy những cải thiện đáng kể ở một số điểm chuẩn, bao gồm Thu hồi cần thiết, Sự rút gọn cần thiết và Tính hữu ích, đồng thời giảm đáng kể việc tạo ra thông tin sai lệch, được gọi là tỷ lệ ảo giác.

Bất chấp những lợi ích rõ ràng của việc áp dụng mô hình ngữ cảnh dài, Sourcegraph nhận ra sự đánh đổi nhất định, chẳng hạn như thời gian cần thiết lâu hơn để tạo mã thông báo đầu tiên. Để giải quyết vấn đề này, họ đã giới thiệu cơ chế tìm nạp trước và kiến ​​trúc mô hình mới giúp lưu trữ trạng thái thực thi mô hình, giảm đáng kể thời gian phản hồi của hỗ trợ mã hóa theo thời gian thực.

Sự hợp tác của Sourcegraph với các nhà phát triển trợ lý mã hóa Cody AI nêu bật những tiến bộ đáng kể trong việc ứng dụng AI vào việc tạo và hiểu mã. Bằng cách tối ưu hóa việc sử dụng cửa sổ ngữ cảnh dài, họ đang tăng độ chính xác và hiệu quả của các công cụ AI dành cho các nhà phát triển làm việc với các cơ sở mã mở rộng và phức tạp.