Advantech mengumumkan solusi server AI edge inovatif yang dirancang untuk mendukung aplikasi AI generatif. Didukung oleh prosesor seri AMD EPYC 7003, server AI edge AIR-520 menggabungkan kartu GPU NVIDIA RTX dan SSD AI SQ ai100 yang didukung oleh teknologi aiDAPTIV+ Phison. Server ini dirancang untuk memfasilitasi penerapan model bahasa skala besar (LLM) dan membantu mengotomatiskan tugas-tugas seperti organisasi dan analisis data, meningkatkan produktivitas dan pengambilan keputusan bagi perusahaan.

Penawaran terbaru perusahaan mencakup empat model Server AI AIR-520 Edge yang berbeda, masing-masing dibuat untuk memenuhi kebutuhan dan aplikasi yang berbeda. Model berkisar dari AIR-520-L13B, cocok untuk tugas real-time seperti chatbots dan terjemahan bahasa, hingga L70B-, yang dioptimalkan untuk analisis data kompleks dan dilengkapi dengan AI SDK yang komprehensif dan NVIDIA AI Enterprise untuk layanan profesional yang luas rangkaian produk termasuk Plus. Solusi khusus ini ditujukan untuk memenuhi kebutuhan berbagai bisnis, mulai dari pembuatan konten hingga analisis khusus.

Solusi AIR-520 Advantech dirancang dengan mempertimbangkan efisiensi biaya dan dilengkapi dengan SQ ai100 AI SSD yang memperluas kemampuan GPU vRAM. Hal ini memungkinkan LLM untuk menyempurnakan dengan lebih sedikit kartu GPU, mengurangi biaya dan memungkinkan desain server yang lebih kompak. Ukuran servernya sebanding dengan PC desktop dan dapat dipasang di rak untuk mengakomodasi ruang perusahaan dan pertimbangan pemeliharaan.

Untuk mendukung pengembangan lebih lanjut, Advantech menawarkan Edge AI SDK yang mencakup GenAI Training Studio yang dilengkapi dengan model Llama-2. Penyiapan ini menyederhanakan pelatihan dan evaluasi model LLM khusus pelanggan, mempercepat proses pengembangan aplikasi seperti chatbots dan analisis data. Oleh karena itu, Server AI AIR-520 Edge memberikan solusi komprehensif bagi perusahaan yang ingin memanfaatkan AI generatif sambil menjaga privasi data dan mengoptimalkan biaya.