Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Kimiは、AIワークフロー、チャット、推論、コーディング、数学など、様々な高需要タスクで優れた性能を発揮するように設計された、同社のモデルファミリーの最新モデルであるKimi K2.5を発表しました。このモデルは、オープンソースのMegatron-LMフレームワークを活用しており、大規模なTransformerベースモデルの学習における計算効率とGPU最適化を強化します。Kimi K2.5は、384人のエキスパートと単一の高密度レイヤーを備えたアーキテクチャを特徴としており、様々なモダリティに特化したルーティングを可能にし、トークンあたり3.2%という優れたパラメータ活性化率を実現しています。

Kimi K2.5モデルは、ビジョン機能をサポートするために、ビジョン固有のトークンを含む約164,000トークンの包括的な語彙を誇ります。このモデルには、画像や動画フレームを埋め込み情報に変換し、視覚処理機能を強化するコンポーネントであるMoonViT3d Vision Towerが組み込まれています。Kimi K2.5の利用に関心のある開発者は、NVIDIA Developer Programを通じて、プロトタイピング用のGPUアクセラレーションエンドポイントを無料で利用できます。また、本番環境での推論に使用できるNVIDIA NIMマイクロサービスも近日中に提供開始予定です。

Kimi K2.5を自社システムに統合したいと考えている方のために、このモデルはNVIDIAがホストするAPIと互換性があり、NVIDIA開発者プログラムに登録することでアクセスできます。さらに、NeMoフレームワークを使用してモデルをカスタマイズおよび微調整することも可能です。NeMoフレームワークは、スケーラブルなモデルトレーニングと特定のマルチモーダルタスクへの適応のためのオープンライブラリスイートを提供します。フレームワーク内のNeMo AutoModelライブラリは、高スループットのトレーニングと迅速な実験を可能にし、開発者や研究者にプロジェクトを推進するための柔軟なツールを提供します。Kimi K2.5の機能について詳しくは、 Hugging FaceおよびKimi APIプラットフォームのモデルページをご覧ください。または、NVIDIAのビルドプラットフォームで直接モデルをテストすることもできます。