Sourcegraph baru-baru ini memulai usaha patungan untuk meningkatkan kemampuan AI dalam pembuatan dan pemahaman kode. Dengan memanfaatkan jendela konteks yang panjang, perusahaan bertujuan untuk meningkatkan pemahaman tentang basis kode yang besar dan kompleks yang selama ini menjadi tantangan bagi model AI tradisional. Perusahaan telah bermitra dengan pencipta asisten pengkodean Cody AI, yang telah digunakan oleh perusahaan dengan basis kode besar, untuk menciptakan kerangka praktis untuk menguji potensi model AI canggih ini dalam skenario dunia nyata.

Untuk mengukur manfaat penggunaan Jendela Konteks yang Ditingkatkan, Sourcegraph melakukan serangkaian pengujian yang membandingkan kinerja Cody dengan Jendela Konteks Token 1M dengan versi standar. Pengujian difokuskan pada menjawab pertanyaan teknis, yang merupakan fitur penting bagi pengembang. Hasilnya, kami melihat peningkatan yang signifikan dalam beberapa tolok ukur, termasuk Essential Recall, Essential Concision, dan Helpfulness, dan secara signifikan mengurangi munculnya informasi palsu, yang dikenal sebagai tingkat halusinasi.

Terlepas dari manfaat nyata dari penerapan model konteks panjang, Sourcegraph mengakui adanya trade-off tertentu, seperti waktu yang lebih lama yang dibutuhkan untuk menghasilkan token pertama. Untuk mengatasi hal ini, mereka memperkenalkan mekanisme prefetch dan arsitektur model baru yang menyimpan status eksekusi model dalam cache, sehingga secara signifikan mengurangi waktu respons bantuan pengkodean real-time.

Kolaborasi Sourcegraph dengan pengembang asisten pengkodean Cody AI menyoroti kemajuan signifikan dalam penerapan AI pada pembuatan dan pemahaman kode. Dengan mengoptimalkan penggunaan jendela konteks panjang, mereka meningkatkan akurasi dan efisiensi alat AI untuk pengembang yang bekerja dengan basis kode yang luas dan kompleks.