Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

KIOXIA新ANNS乘積量化技術発表
Generatived
25/1/29 13:30
Kioxia(東京)は、全新全儲存ANNSと乘積量化(AiSAQ)技術の開放原始碼バージョンを発表した。同社のAiSAQ™ソフトウェアは、SSD向けに最適化された新しいANNSアルゴリズムを採用し、検索強化生成(RAG)に拡張性のあるパフォーマンスを提供する。これにより、インデックスデータをDRAMに置くことなく、SSD上で直接検索が可能となる。
生成型AIシステムは、膨大な計算、メモリ、ストレージリソースを必要とする。RAGはAIの重要な段階であり、企業やアプリケーション固有のデータを使用して大規模言語モデル(LLM)の最適化を促進する。RAGの核心要素であるベクトルデータベースは、特定のデータを蓄積し、データベース内の特徴ベクトルに変換する。また、ANNSアルゴリズムを利用して、蓄積されたベクトルと目標ベクトル間の類似性に基づき、モデル改善に役立つベクトルを識別する。
KIOXIAのAiSAQ技術は、数十億規模のデータセットに対して、メモリ使用量がほとんどなく、高速なインデックス切り替え機能を備えた、拡張可能で効率的なANNSソリューションを提供する。この技術の主な利点は、限られたDRAMリソースに依存せずに大規模データベースを運用できることであり、RAGシステムのパフォーマンスを向上させる。インデックスデータをDRAMにロードする必要がなく、ベクトルデータベースを即座に起動できるため、同一サーバー上でユーザー固有のデータベースやアプリケーション固有のデータベース間のスムーズな切り替えを支援し、効率的なRAGサービス提供を実現する。
Kioxiaは、KIOXIA AiSAQ技術を開放原始碼ソフトウェアとしてコミュニティに提供することで、AIの発展を推進するというコミットメントを示している。同技術に関する詳細は、以下のリンクから開放原始碼バージョンを確認できる。https://github.com/kioxiaamerica/aisaq-diskann
最新のニュース
Microsoft、Copilot Coworkを正式提供
26/6/22 9:00
Microsoft(米ワシントン州レドモンド)は、長時間かつ複数ツールを活用する業務を自動実行する「Copilot Cowork」の一般提供を世界で開始したと発表した。
NVIDIA、MLPerf訓練性能で首位
26/6/22 9:00
NVIDIA(米カリフォルニア州サンタクララ)は、AI学習性能を評価する業界ベンチマーク「MLPerf Training 6.0」において、全ベンチマークで最短学習時間を記録したと発表した。
NVIDIAがAI学習高速化手法公開
26/6/22 9:00
NVIDIA(米カリフォルニア州サンタクララ)は、Transformerベースの大規模AIモデル向けに、低精度演算を活用した学習高速化手法と評価方法を公開した。
Copyright © 2024 Generatived - All right Reserved.
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
Microsoft、Copilot Coworkを正式提供
26/6/22 9:00
Microsoft(米ワシントン州レドモンド)は、長時間かつ複数ツールを活用する業務を自動実行する「Copilot Cowork」の一般提供を世界で開始したと発表した。
NVIDIA、MLPerf訓練性能で首位
26/6/22 9:00
NVIDIA(米カリフォルニア州サンタクララ)は、AI学習性能を評価する業界ベンチマーク「MLPerf Training 6.0」において、全ベンチマークで最短学習時間を記録したと発表した。
NVIDIAがAI学習高速化手法公開
26/6/22 9:00
NVIDIA(米カリフォルニア州サンタクララ)は、Transformerベースの大規模AIモデル向けに、低精度演算を活用した学習高速化手法と評価方法を公開した。




%20(1).webp)

