Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA Jetson đáp ứng nhu cầu ngày càng tăng về trí tuệ nhân tạo biên (edge ​​AI) và trí thông minh thời gian thực trong robot bằng các mô-đun tăng tốc GPU nhỏ gọn và bộ dụng cụ phát triển. Các thiết bị này cho phép robot, camera thông minh và máy móc tự hành xử lý dữ liệu hình ảnh cục bộ và đưa ra quyết định mà không cần dựa vào kết nối đám mây. Nền tảng này cung cấp nhiều bộ dụng cụ phát triển, từ bộ dụng cụ phát triển NVIDIA Jetson Orin Nano Super với 8GB bộ nhớ đến NVIDIA Jetson AGX Thor với 128GB bộ nhớ, để đáp ứng các mức độ phức tạp của AI và nhu cầu hiệu năng khác nhau.

NVIDIA đã công bố các hướng dẫn minh họa cách triển khai các mô hình AI mã nguồn mở trên nền tảng Jetson, cho phép hoạt động độc lập phù hợp với nhiều ứng dụng khác nhau. Các hướng dẫn này hướng dẫn người dùng từ thiết lập cơ bản đến các dự án nâng cao như tạo trợ lý lập trình cá nhân hoặc robot tự hành hoàn toàn. Việc chạy các mô hình AI cục bộ mang lại lợi ích về tăng cường quyền riêng tư và giảm latency, vì dữ liệu vẫn nằm trên thiết bị và không bị ảnh hưởng bởi latency mạng.

Nền tảng Jetson của NVIDIA hỗ trợ nhiều mô hình AI, từ các trợ lý chuyên dụng hiệu quả đến các hệ thống suy luận sâu phức tạp quy mô lớn. Ví dụ, Jetson AGX Orin có thể chạy các mô hình như gpt-oss-20b, trong khi Jetson AGX Thor có thể xử lý các mô hình quy mô lớn với hơn 100 tỷ tham số. Tính linh hoạt của nền tảng này cũng mở rộng đến các mô hình ngôn ngữ hình ảnh (VLM) có thể phân tích và mô tả nguồn cấp dữ liệu video trực tiếp, khiến chúng phù hợp với các ứng dụng như hệ thống an ninh thông minh và giám sát động vật hoang dã.

Trong lĩnh vực robot, NVIDIA đang thúc đẩy sự thay đổi mô hình từ logic mã hóa cứng truyền thống sang học tập mô phỏng đầu cuối với các mô hình nền tảng. Cách tiếp cận này tận dụng dữ liệu hình ảnh liên tục và các lệnh ngôn ngữ tự nhiên để dự đoán hành vi của robot. NVIDIA Isaac Sim hỗ trợ tạo dữ liệu huấn luyện tổng hợp, cho phép các nhà phát triển xác thực các chính sách trong môi trường ảo trước khi triển khai. Nền tảng Jetson đảm bảo các chính sách điều khiển tiên tiến này được thực thi với latency thấp cần thiết cho các ứng dụng thời gian thực. NVIDIA cung cấp nguồn lực và hỗ trợ cho các nhà phát triển định hình tương lai của robot và trí tuệ nhân tạo biên, đồng thời khuyến khích sự tham gia vào cộng đồng năng động của chúng tôi.