top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

KIOXIA新ANNS乘積量化技術発表

Generatived

25/1/29 4:30

Kioxia(東京)は、全新全儲存ANNSと乘積量化(AiSAQ)技術の開放原始碼バージョンを発表した。同社のAiSAQ™ソフトウェアは、SSD向けに最適化された新しいANNSアルゴリズムを採用し、検索強化生成(RAG)に拡張性のあるパフォーマンスを提供する。これにより、インデックスデータをDRAMに置くことなく、SSD上で直接検索が可能となる。

生成型AIシステムは、膨大な計算、メモリ、ストレージリソースを必要とする。RAGはAIの重要な段階であり、企業やアプリケーション固有のデータを使用して大規模言語モデル(LLM)の最適化を促進する。RAGの核心要素であるベクトルデータベースは、特定のデータを蓄積し、データベース内の特徴ベクトルに変換する。また、ANNSアルゴリズムを利用して、蓄積されたベクトルと目標ベクトル間の類似性に基づき、モデル改善に役立つベクトルを識別する。

KIOXIAのAiSAQ技術は、数十億規模のデータセットに対して、メモリ使用量がほとんどなく、高速なインデックス切り替え機能を備えた、拡張可能で効率的なANNSソリューションを提供する。この技術の主な利点は、限られたDRAMリソースに依存せずに大規模データベースを運用できることであり、RAGシステムのパフォーマンスを向上させる。インデックスデータをDRAMにロードする必要がなく、ベクトルデータベースを即座に起動できるため、同一サーバー上でユーザー固有のデータベースやアプリケーション固有のデータベース間のスムーズな切り替えを支援し、効率的なRAGサービス提供を実現する。

Kioxiaは、KIOXIA AiSAQ技術を開放原始碼ソフトウェアとしてコミュニティに提供することで、AIの発展を推進するというコミットメントを示している。同技術に関する詳細は、以下のリンクから開放原始碼バージョンを確認できる。https://github.com/kioxiaamerica/aisaq-diskann

この記事を共有:

最新のニュース
NVIDIA、業界全体��でのAI導入の急増を報告

NVIDIA、業界全体でのAI導入の急増を報告

26/3/11 0:00

NVIDIAの最新の「State of AI」レポートでは、様々な業界でAI導入が急増していることが明らかになりました。

TII、Falcon 統合により NVIDIA Megatron Core を強化

TII、Falcon 統合により NVIDIA Megatron Core を強化

26/3/11 0:00

NVIDIA Megatron Coreは、比類のない並列処理とGPU最適化されたパフォーマンスを提供するオープンソースライブラリのおかげで、大規模言語モデルの学習における極めて重要なフレームワークとなっています。

マイクロソフト、Microsoft 365 Copilot の拡張を発表

マイクロソフト、Microsoft 365 Copilot の拡張を発表

26/3/11 0:00

マイクロソフトは、Microsoft 365 Copilotの第3弾を発表しました。

NVIDIA AIConfigurator が大規模言語モデルの導入を効率化

NVIDIA AIConfigurator が大規模言語モデルの導入を効率化

26/3/11 0:00

AIConfiguratorは、大規模言語モデル(LLM)のデプロイメントを最適化するための重要なツールとして登場しました。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
NVIDIA、業界全体でのAI導入の急増を報告

NVIDIA、業界全体でのAI導入の急増を報告

26/3/11 0:00

NVIDIAの最新の「State of AI」レポートでは、様々な業界でAI導入が急増していることが明らかになりました。

TII、Falcon 統合により NVIDIA Megatron Core を強化

TII、Falcon 統合により NVIDIA Megatron Core を強化

26/3/11 0:00

NVIDIA Megatron Coreは、比類のない並列処理とGPU最適化されたパフォーマンスを提供するオープンソースライブラリのおかげで、大規模言語モデルの学習における極めて重要なフレームワークとなっています。

マイクロソフト、Microsoft 365 Copilot の拡張を発表

マイクロソフト、Microsoft 365 Copilot の拡張を発表

26/3/11 0:00

マイクロソフトは、Microsoft 365 Copilotの第3弾を発表しました。

NVIDIA AIConfigurator が大規模言語モデルの導入を効率化

NVIDIA AIConfigurator が大規模言語モデルの導入を効率化

26/3/11 0:00

AIConfiguratorは、大規模言語モデル(LLM)のデプロイメントを最適化するための重要なツールとして登場しました。

bottom of page