Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

富士通（東京）は、AIサービス「Fujitsu Kozuchi」の核となる技術を開発し、「Takane」の性能向上に成功したと発表した。新技術は、AIのニューロン間の結合重みを極限まで圧縮する量子化技術と、軽量化と高精度を両立する特化型AI蒸留技術の2つから成る。これにより、メモリ消費量を最大94%削減しつつ、精度維持率89%を実現し、処理速度を3倍に高速化した。

同社によると、従来の量子化手法（GPTQ）の精度維持率は20%以下だったが、新技術はそれを大きく上回る。この技術により、高性能なGPUを複数必要とする大型AIモデルを、低性能のGPU1枚で高速に実行できるようになった。また、スマートフォンや工場機械などのエッジデバイス上でAIエージェントを実行可能にし、リアルタイム応答性の向上とデータセキュリティの強化、省電力化を実現する。

富士通は、「Takane」に量子化技術を適用したトライアル環境を2025年度下期から提供開始する予定だ。さらに、Cohere社の研究用オープンウェイト「Command A」を量子化したモデルをHugging Faceを通じて公開した。今後も、生成AIの能力向上と信頼性保証の研究開発を進め、より困難な課題解決に貢献するとしている。