Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

キーサイト・テクノロジー社は、現実世界のワークロードをエミュレートして、さまざまな要因が AI トレーニング パフォーマンスに与える影響を評価する新しいソフトウェア スイート、KAI Data Center Builder を発表しました。このソフトウェア スイートにより、大規模な言語モデル トレーニング ワークロードを、ネットワーク、ホスト、アクセラレータなどの AI インフラストラクチャ コンポーネントの設計と検証に統合できます。この統合は、ハードウェア設計と AI トレーニング アルゴリズムの相乗効果を高め、最終的にシステム パフォーマンスを向上させることを目的としています。

KAI データ センター ビルダーは、AI モデルのトレーニングを加速する際に AI オペレーターが直面する課題に対処します。AI クラスターのトポロジと構成に合わせるために重要なモデル パーティショニング戦略を試すためのツールを提供します。ソフトウェア スイートには、一般的なモデルやパーティショニング スキーマを含むワークロード エミュレーションのライブラリが用意されており、実験を容易にし、パフォーマンス低下の原因に関する洞察を提供します。

AI オペレーターは、KAI Data Center Builder を利用して並列処理パラメータを実験し、通信パターンがジョブ完了時間に与える影響を把握できます。このアプリケーションは、ボトルネックを特定し、ネットワーク使用率、テールレーテンシー、輻輳を分析するのにも役立ちます。現実的な AI ワークロードをラボ セットアップに取り込むことで、ソフトウェアは AI クラスターの設計とコンポーネントの検証と最適化を可能にします。

キーサイトの副社長兼ゼネラルマネージャーであるラム・ペリアカルパン氏は、AI インフラストラクチャのフルスタック検証と最適化の重要性を強調しました。同氏は、コストのかかる遅延を防ぐために、検証を設計および製造のより早い段階に移行することの利点を強調しました。KAI データセンタービルダーは、キーサイトのより広範な人工知能アーキテクチャの一部であり、実際の AI ワークロードエミュレーションを通じて、データセンターでの AI 処理能力の拡張を顧客がサポートします。