Pipon (Toshima-ku, Tokyo) telah mengembangkan platform chatbot AI tipe RAG yang khusus untuk informasi kanker bekerja sama dengan Pusat Kanker Nasional. Platform ini dirancang untuk mengurangi risiko informasi yang salah di internet. Hasil penelitian tersebut diterbitkan di JMIR Cancer dan berjudul "Mengurangi Halusinasi dan Pertukaran dalam Respons pada Chatbot Generative AI untuk Informasi Kanker: Studi Pengembangan dan Evaluasi."

Perusahaan bertanggung jawab atas desain, implementasi, dan infrastruktur operasional sistem RAG, sementara Pusat Kanker Nasional melakukan evaluasi dan analisis medis. Chatbot RAG menggunakan teknologi yang dikembangkan melalui VoiceChart, layanan pembuatan rekam medis berbasis AI untuk lingkungan medis, dan dioptimalkan secara khusus untuk memberikan informasi tentang kanker.

Dalam penelitian ini, para dokter mengevaluasi respons dari enam chatbot berbeda terhadap 62 pertanyaan terkait kanker. Chatbot RAG, yang merujuk pada CIS, menunjukkan 0% halusinasi pada GPT-4 dan 6% pada GPT-3.5. Sementara itu, chatbot RAG, yang merujuk pada pencarian Google , menunjukkan 13% halusinasi pada GPT-4 dan 23% halusinasi pada GPT-3.5. Hal ini mengungkapkan bahwa pilihan sumber informasi memiliki dampak signifikan terhadap keamanan AI.

Pipon akan menggunakan teknologi yang ditunjukkan dalam penelitian ini untuk menyediakan platform AI yang aman dan dapat dijelaskan untuk sektor medis dan publik. CEO Seiya Kitazume berkomentar, "Generative AI memang praktis, tetapi ada risiko jawaban yang salah di bidang medis. Hasil kami menunjukkan bahwa ini adalah pilihan yang realistis untuk AI informasi medis yang aman."