日本AIコンサルティング（大阪府吹田市）は、中小企業向けにオンプレミス生成AIパッケージ「InsightBuddy」を発表した。この製品は、社内データを活用し、段階的に導入可能なサービスを提供する。価格は158万円からとなっており、中小企業の導入障壁を低減することを目指している。
「InsightBuddy」はオープンソースのLLM「CodeLlama-34B」をベースに、社内データに特化させたファインチューニングを施している。また、LLMの量子化により、一般的なGPUでも動作可能とし、コスト面での導入の容易さを実現した。導入支援サービスも展開し、PoCを起点に段階的な導入が可能である。
同社は、RAG技術を活用することで、社内データの効率的な活用を実現している。これにより、追加学習なしで最新の情報を基に経営判断が可能となる。オンプレミス導入により、高いセキュリティを維持しつつ、社内データのみを参照する運用が可能である。
今後、日本AIコンサルティングはハードウェアメーカーと連携し、生成AIの総合的な導入提案を展開する。PoCから本格導入までのサポートを行い、企業の生産性向上に貢献する機能拡張を予定している。詳細は公式製品ページで確認できる。
出典：プレスリリース
