NVIDIA mengumumkan peluncuran NVIDIA Jetson T4000, sebuah modul yang dirancang untuk meningkatkan kemampuan AI dan pemrosesan waktu nyata dalam aplikasi robotika dan AI di perangkat tepi (edge ​​AI). T4000 menawarkan kinerja komputasi AI hingga 1200 FP4 TFLOPS dan memori 64GB, memberikan keseimbangan yang sangat baik antara kinerja, efisiensi, dan skalabilitas. Desainnya yang hemat energi dan faktor bentuk yang siap produksi membuat AI canggih lebih mudah diakses oleh berbagai macam mesin cerdas, mulai dari robot otonom hingga infrastruktur pintar.

Modul Jetson T4000 memiliki mesin codec video perangkat keras yang mendukung pengkodean dan dekode video 4K secara real-time. Fitur ini sangat berguna untuk platform yang membutuhkan kombinasi pemrosesan visi tingkat lanjut dan kemampuan I/O sambil mempertahankan efisiensi daya dan termal. Selain itu, T4000 memiliki faktor bentuk dan kompatibilitas pin yang sama dengan modul NVIDIA Jetson T5000, memungkinkan pengembang untuk mendesain papan carrier umum untuk kedua modul tersebut.

Modul NVIDIA Jetson T4000 dan T5000 menunjukkan kinerja yang sangat baik dalam benchmark untuk model bahasa skala besar (LLM), text-to-speech (TTS), dan model visual language action (VLA). T4000 khususnya menunjukkan peningkatan kinerja hingga 2x dibandingkan platform NVIDIA Jetson AGX Orin generasi sebelumnya. Peningkatan ini memiliki implikasi signifikan bagi pengembang yang membangun aplikasi berbasis AI.

Modul baru ini didukung oleh NVIDIA JetPack 7.1, yang memperkenalkan fitur perangkat lunak baru yang meningkatkan kemampuan AI dan codec video. JetPack 7.1 mendukung NVIDIA TensorRT Edge-LLM pada platform Jetson Thor, menyediakan solusi inferensi yang efisien untuk robotika dan sistem edge. SDK TensorRT Edge-LLM dirancang untuk menjalankan LLM dan model bahasa visi (VLM) secara efisien pada platform edge, mengatasi keterbatasan perangkat edge seperti robot. SDK ini menyediakan runtime LLM yang berorientasi produksi untuk perangkat seperti GPU tertanam kelas Jetson Thor, terintegrasi dengan lancar dengan basis kode C++ yang ada dan memberikan latency yang dapat diprediksi bahkan di bawah beban.

NVIDIA Jetson T4000 didukung oleh ekosistem sistem siap produksi yang matang dari mitra perangkat keras, memfasilitasi transisi yang lancar dari prototipe ke implementasi. Pengembang dapat memilih dari sistem edge yang telah divalidasi sebelumnya yang mengintegrasikan modul, daya, desain termal, dan I/O yang dibutuhkan untuk berbagai beban kerja AI. Pipeline kamera canggih modul ini juga patut diperhatikan, mendukung beban kerja visi multi-kamera real-time yang menuntut. Dengan Jetson T4000, NVIDIA bertujuan untuk memperluas kemampuan AI kelas Blackwell, inferensi real-time, dan multimedia canggih ke berbagai aplikasi yang lebih luas, memungkinkan pengembang untuk meningkatkan skala secara cerdas di berbagai tingkatan kinerja.