Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA vừa công bố ra mắt NVIDIA Jetson T4000, một mô-đun được thiết kế để tăng cường khả năng trí tuệ nhân tạo (AI) và xử lý thời gian thực trong các ứng dụng robot và AI biên. T4000 cung cấp hiệu năng tính toán AI lên đến 1200 FP4 TFLOPS và 64GB bộ nhớ, mang lại sự cân bằng tuyệt vời giữa hiệu năng, hiệu quả và khả năng mở rộng. Thiết kế tiết kiệm năng lượng và kiểu dáng sẵn sàng cho sản xuất giúp AI tiên tiến dễ tiếp cận hơn với nhiều loại máy móc thông minh, từ robot tự hành đến cơ sở hạ tầng thông minh.

Module Jetson T4000 sở hữu bộ xử lý mã hóa và giải mã video phần cứng hỗ trợ mã hóa và giải mã video 4K thời gian thực. Tính năng này đặc biệt hữu ích cho các nền tảng yêu cầu sự kết hợp giữa khả năng xử lý hình ảnh tiên tiến và khả năng I/O trong khi vẫn duy trì hiệu quả về điện năng và nhiệt độ. Ngoài ra, T4000 có cùng kích thước và khả năng tương thích chân cắm với module NVIDIA Jetson T5000, cho phép các nhà phát triển thiết kế một bo mạch carrier chung cho cả hai module.

Các mô-đun Jetson T4000 và T5000 của NVIDIA đã thể hiện hiệu năng xuất sắc trong các bài kiểm tra hiệu năng cho các mô hình ngôn ngữ quy mô lớn (LLM), chuyển văn bản thành giọng nói (TTS) và mô hình hành động ngôn ngữ trực quan (VLA). Đặc biệt, T4000 cho thấy hiệu năng được cải thiện gấp đôi so với nền tảng NVIDIA Jetson AGX Orin thế hệ trước. Những cải tiến này có ý nghĩa quan trọng đối với các nhà phát triển xây dựng các ứng dụng đòi hỏi nhiều trí tuệ nhân tạo.

Mô-đun mới này được hỗ trợ bởi NVIDIA JetPack 7.1, giới thiệu các tính năng phần mềm mới giúp tăng cường khả năng xử lý AI và mã hóa video. JetPack 7.1 hỗ trợ NVIDIA TensorRT Edge-LLM trên nền tảng Jetson Thor, cung cấp giải pháp suy luận hiệu quả cho robot và hệ thống biên. SDK TensorRT Edge-LLM được thiết kế để chạy hiệu quả các mô hình ngôn ngữ logic (LLM) và mô hình ngôn ngữ thị giác (VLM) trên các nền tảng biên, giải quyết các hạn chế của thiết bị biên như robot. SDK cung cấp môi trường chạy LLM hướng đến sản xuất cho các thiết bị như GPU nhúng thuộc dòng Jetson Thor, tích hợp mượt mà với các cơ sở mã C++ hiện có và mang lại latency có thể dự đoán được ngay cả khi chịu tải.

NVIDIA Jetson T4000 được hỗ trợ bởi một hệ sinh thái hoàn thiện gồm các hệ thống sẵn sàng sản xuất từ ​​các đối tác phần cứng, tạo điều kiện thuận lợi cho quá trình chuyển đổi suôn sẻ từ nguyên mẫu sang triển khai. Các nhà phát triển có thể lựa chọn từ các hệ thống biên đã được kiểm định trước, tích hợp các mô-đun, nguồn điện, thiết kế tản nhiệt và I/O cần thiết cho các khối lượng công việc AI khác nhau. Hệ thống xử lý hình ảnh tiên tiến của mô-đun cũng rất đáng chú ý, hỗ trợ các khối lượng công việc xử lý hình ảnh đa camera, thời gian thực đòi hỏi cao. Với Jetson T4000, NVIDIA đặt mục tiêu mở rộng khả năng AI, suy luận thời gian thực và đa phương tiện tiên tiến của dòng Blackwell cho nhiều ứng dụng hơn, cho phép các nhà phát triển mở rộng quy mô một cách thông minh trên các cấp hiệu năng khác nhau.