top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

KIOXIA新ANNS乘積量化技術発表

Generatived

25/1/29 13:30

Kioxia(東京)は、全新全儲存ANNSと乘積量化(AiSAQ)技術の開放原始碼バージョンを発表した。同社のAiSAQ™ソフトウェアは、SSD向けに最適化された新しいANNSアルゴリズムを採用し、検索強化生成(RAG)に拡張性のあるパフォーマンスを提供する。これにより、インデックスデータをDRAMに置くことなく、SSD上で直接検索が可能となる。

生成型AIシステムは、膨大な計算、メモリ、ストレージリソースを必要とする。RAGはAIの重要な段階であり、企業やアプリケーション固有のデータを使用して大規模言語モデル(LLM)の最適化を促進する。RAGの核心要素であるベクトルデータベースは、特定のデータを蓄積し、データベース内の特徴ベクトルに変換する。また、ANNSアルゴリズムを利用して、蓄積されたベクトルと目標ベクトル間の類似性に基づき、モデル改善に役立つベクトルを識別する。

KIOXIAのAiSAQ技術は、数十億規模のデータセットに対して、メモリ使用量がほとんどなく、高速なインデックス切り替え機能を備えた、拡張可能で効率的なANNSソリューションを提供する。この技術の主な利点は、限られたDRAMリソースに依存せずに大規模データベースを運用できることであり、RAGシステムのパフォーマンスを向上させる。インデックスデータをDRAMにロードする必要がなく、ベクトルデータベースを即座に起動できるため、同一サーバー上でユーザー固有のデータベースやアプリケーション固有のデータベース間のスムーズな切り替えを支援し、効率的なRAGサービス提供を実現する。

Kioxiaは、KIOXIA AiSAQ技術を開放原始碼ソフトウェアとしてコミュニティに提供することで、AIの発展を推進するというコミットメントを示している。同技術に関する詳細は、以下のリンクから開放原始碼バージョンを確認できる。https://github.com/kioxiaamerica/aisaq-diskann

この記事を共有:

最新のニュース
NVIDIAがMLPerf訓練性能で全種目首位

NVIDIAがMLPerf訓練性能で全種目首位

26/6/22 9:00

NVIDIA(米カリフォルニア州サンタクララ)は、AI学習性能ベンチマーク「MLPerf Training v6.0」において、全ベンチマークで最速の学習時間を達成したと発表した。

Pennymac、AWSとAI住宅ローン強化

Pennymac、AWSとAI住宅ローン強化

26/6/22 9:00

Pennymac(米カリフォルニア州ウェストレイクビレッジ)は、Amazon Web Servicesとの戦略提携を拡大し、AIを活用した住宅ローン事業の強化を進めると発表した。

Microsoft、AI管理基盤を強化

Microsoft、AI管理基盤を強化

26/6/22 9:00

Microsoft(米ワシントン州レドモンド)は、企業向けAI戦略において「Intelligence + Trust」を中核概念に据え、組織固有の知見を活用するMicrosoft IQと管理基盤Agent 365を軸にAI導入を推進すると発表した。

NVIDIA、MoE学習性能を大幅向上

NVIDIA、MoE学習性能を大幅向上

26/6/22 9:00

NVIDIA(米カリフォルニア州サンタクララ)は、大規模AIモデルで採用が進むMixture-of-Experts(MoE)向けに、新たな融合MLPカーネルを発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
NVIDIAがMLPerf訓練性能で全種目首位

NVIDIAがMLPerf訓練性能で全種目首位

26/6/22 9:00

NVIDIA(米カリフォルニア州サンタクララ)は、AI学習性能ベンチマーク「MLPerf Training v6.0」において、全ベンチマークで最速の学習時間を達成したと発表した。

Pennymac、AWSとAI住宅ローン強化

Pennymac、AWSとAI住宅ローン強化

26/6/22 9:00

Pennymac(米カリフォルニア州ウェストレイクビレッジ)は、Amazon Web Servicesとの戦略提携を拡大し、AIを活用した住宅ローン事業の強化を進めると発表した。

Microsoft、AI管理基盤を強化

Microsoft、AI管理基盤を強化

26/6/22 9:00

Microsoft(米ワシントン州レドモンド)は、企業向けAI戦略において「Intelligence + Trust」を中核概念に据え、組織固有の知見を活用するMicrosoft IQと管理基盤Agent 365を軸にAI導入を推進すると発表した。

NVIDIA、MoE学習性能を大幅向上

NVIDIA、MoE学習性能を大幅向上

26/6/22 9:00

NVIDIA(米カリフォルニア州サンタクララ)は、大規模AIモデルで採用が進むMixture-of-Experts(MoE)向けに、新たな融合MLPカーネルを発表した。

bottom of page