Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Trong một cuộc thảo luận trực tuyến gần đây, Nhà khoa học chính của NVIDIA, Bill Dally, đã nhấn mạnh những thay đổi lớn trong việc mang lại hiệu suất máy tính trong kỷ nguyên hậu Luật Moore. Ông nhấn mạnh rằng mỗi bộ xử lý mới đều đòi hỏi sự đổi mới và thử nghiệm nghiêm ngặt các thành phần mới. Cách tiếp cận này trái ngược với các thế hệ trước vốn dựa vào tính chất vật lý của các con chip ngày càng nhỏ hơn và nhanh hơn. Dally lãnh đạo một nhóm gồm hơn 300 người tại NVIDIA Research và là công cụ giúp tăng hiệu suất GPU đơn lẻ trong suy luận AI lên mức đáng kinh ngạc 1.000 lần trong thập kỷ qua. Sự gia tăng đáng kể này lần đầu tiên được IEEE Spectrum mệnh danh là "Định luật Huang" để vinh danh người sáng lập và Giám đốc điều hành NVIDIA Jensen Huang, và sau đó trở nên phổ biến thông qua một chuyên mục trên Wall Street Journal. Sự tiến bộ này là phản ứng trước sự tăng trưởng theo cấp số nhân của các mô hình ngôn ngữ quy mô lớn được sử dụng cho AI tổng hợp, vốn đang mở rộng theo cấp độ lớn mỗi năm. Daly đã vạch ra những yếu tố góp phần làm tăng gấp 1.000 lần. Nổi bật nhất trong số đó là mức tăng gấp 16 lần đạt được nhờ đơn giản hóa cách biểu diễn các con số được sử dụng trong tính toán máy tính. Kiến trúc NVIDIA Hopper mới nhất, được hỗ trợ bởi Transformer Engine, sử dụng sự kết hợp linh hoạt giữa các phép toán dấu phẩy động và số nguyên 8 bit và 16 bit để đáp ứng nhu cầu của các mô hình AI tổng hợp ngày nay. Dally cũng giải thích cách NVLink kết nối các GPU trong một hệ thống và cách mạng NVIDIA giữa các hệ thống tăng hiệu suất của một GPU lên 1.000 lần. Anh tin rằng động lực mới này trong thiết kế máy tính mang lại cho các kỹ sư NVIDIA ba cơ hội mà họ đánh giá cao nhất: trở thành thành viên của các nhóm thành công, cộng tác với những cá nhân thông minh và thiết kế có tác động.