アドバンテック（東京都台東区）は、NVIDIA® Jetson AGX Orin™を搭載したMIC-733-AOで生成AIデモを成功させた。このデモは、クラウドベースのAIに比べて即時性が高く、セキュリティーが強化され、インターネットコストが削減されるという。MIC-733-AOは、Jetson AIラボのAIモデルを無償で提供し、カスタマイズと開発時間の短縮を実現する。
MIC-733-AOは、NVIDIAの生成AIモデルと互換性があり、大規模言語モデルやビジョン言語モデルなどをエッジで効率的に実行できる。このプラットフォームは、加速計算やAIソフトウェア、事前トレーニング済みモデルを含む独自の提供を行い、生成型AIモデルの作成や展開を容易にする。
Jetson AIラボのモデルを使い、開発者はリトリーバル拡張生成技術を活用し、企業の知識ベースにLLMとVLMを接続できる。この手法は、従来のAIモデルトレーニングが不要で、対話形式でシステムとやり取りするだけでAI推論が得られるため、開発時間を短縮する。
アドバンテックのMIC-733-AOは、高いAI性能と複数のビデオインターフェイスを備え、エッジベースの生成型AIモデルの動作を可能にする。優れた熱設計により、NVIDIA® Jetson AGX Orin™がフル稼働しても安定している。エッジでの生成AIは、即応性、情報セキュリティー、安定したネットワーク接続、送信コストの低減などの利点を提供する。MIC-733-AOは市場で利用可能で、GTC 2024でのデモ展示も行われた。MIC-733-AO Live LLaVAデモアプリケーションノートはダウンロード可能だ。
出典：プレスリリース
