pipon（東京都豊島区）は国立がん研究センターとの共同研究で、がん情報に特化したRAG型AIチャットボット基盤を開発。この基盤は、インターネット上の誤情報リスクを減らす目的で設計された。研究成果は「JMIR Cancer」に掲載され、「Reducing Hallucinations and Trade-Offs in Responses in Generative AI Chatbots for Cancer Information: Development and Evaluation Study」と題されている。

同社はRAGシステムの設計・実装・運用基盤を担当し、国立がん研究センターが医学的評価・解析を実施。RAGチャットボットは、医療現場向けAIカルテ生成サービス「ボイスチャート」で培った技術を活用し、がん情報提供に特化して最適化されている。

研究では、62問のがん関連質問に対する6種類のチャットボットの回答を医師が評価。CISを参照するRAGチャットボットは、GPT-4でハルシネーションが0％、GPT-3.5で6％という結果を示した。一方、Google検索を参照するRAGチャットボットは、GPT-4で13％、GPT-3.5で23％のハルシネーションを含む回答があった。これにより、情報源の選択がAIの安全性に大きく影響することが明らかになった。

piponは、この研究で実証された技術を基に、医療・公的領域での安全で説明可能なAI基盤の提供を進める。代表取締役の北爪聖也は、「生成AIは便利だが、医療分野での誤回答はリスク。今回の成果は、安全な医療情報AIの現実的な選択肢となる証左」とコメントしている。