Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA gần đây đã ra mắt Phòng thí nghiệm AI sáng tạo Jetson, một nền tảng được thiết kế để giúp các nhà phát triển khám phá tiềm năng của AI sáng tạo trong môi trường thế giới thực bằng cách sử dụng các thiết bị biên NVIDIA Jetson. Không giống như các nền tảng nhúng khác, Jetson có thể chạy các mô hình ngôn ngữ lớn (LLM), bộ biến đổi tầm nhìn và khuếch tán ổn định ở tốc độ tương tác cục bộ, bao gồm cả mô hình Llama-2-70B trên Jetson AGX Orin. Phòng thí nghiệm này cung cấp các hướng dẫn và tài nguyên để thử nghiệm các mô hình và ứng dụng hiện đại trên Jetson, cho phép các nhà phát triển tập trung vào tiềm năng chưa được khai thác của AI trong thế giới vật chất. Phòng thí nghiệm AI tạo thế hệ Jetson đóng vai trò là trung tâm khám phá các mô hình và ứng dụng AI thế hệ mới nhất cũng như tìm hiểu cách chạy chúng trên các thiết bị Jetson. Khi lĩnh vực này phát triển nhanh chóng, với các LLM mới xuất hiện gần như hàng ngày và những tiến bộ trong thư viện lượng tử hóa định hình lại điểm chuẩn chỉ sau một đêm, NVIDIA nhận ra tầm quan trọng của việc cung cấp thông tin cập nhật và các công cụ hiệu quả mà tôi nhận thức được về giới tính của mình. Phòng thí nghiệm này cung cấp hướng dẫn dễ thực hiện và các vùng chứa được tạo sẵn. Lực lượng hỗ trợ đằng sau phòng thí nghiệm là Jetson-container, một dự án nguồn mở được thiết kế để xây dựng các thùng chứa cho các thiết bị Jetson. Tôi đang xây dựng 100 vùng chứa ở định dạng CI/CD bằng GitHub Actions. Những vùng chứa này cho phép các nhà phát triển nhanh chóng thử nghiệm các mô hình, thư viện và ứng dụng AI mới nhất trên Jetson mà không gặp rắc rối khi định cấu hình các công cụ và thư viện cơ bản. Phòng thí nghiệm AI sáng tạo Jetson và Bộ chứa Jetson cho phép các nhà phát triển tập trung vào việc khám phá khả năng vô tận của AI sáng tạo trong môi trường thế giới thực bằng cách sử dụng Jetson. Phòng thí nghiệm này cũng giới thiệu một số ứng dụng AI tổng quát thú vị chạy trên thiết bị NVIDIA Jetson. Chúng bao gồm webui ổn định khuếch tán của A1111, cung cấp giao diện thân thiện với người dùng cho Khuếch tán ổn định do Stability AI phát hành và Oababooga, giao diện web dựa trên Gradio phổ biến để chạy LLM trong môi trường cục bộ Chứa webui tạo văn bản. Phòng thí nghiệm này cũng giới thiệu Llamaspeak, một ứng dụng trò chuyện tương tác sử dụng NVIDIA Riva ASR/TTS trực tiếp để cho phép trò chuyện bằng lời nói với các LLM chạy cục bộ.