Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

FuriosaAI, một công ty bán dẫn AI có trụ sở tại California, gần đây đã công bố máy tăng tốc AI RNGD mới của mình tại Hội nghị chuyên đề Hot Chips. Bộ tăng tốc này được thiết kế để tăng hiệu quả hoạt động của trung tâm dữ liệu, đặc biệt là trong ngôn ngữ quy mô lớn và suy luận mô hình đa phương thức. Được thành lập bởi ba kỹ sư có kinh nghiệm tại các công ty công nghệ hàng đầu, công ty đã nhanh chóng tiến tới sự phát triển nhanh chóng của RNGD kể từ khi thành lập vào năm 2017.

Công ty đã ra mắt thành công RNGD sau khi nhận được những mẫu silicon đầu tiên từ đối tác sản xuất TSMC. Cột mốc quan trọng này được xây dựng dựa trên lịch sử phát triển công nghệ nhanh chóng và hiệu quả của FuriosaAI, bao gồm cả việc tăng hiệu suất đáng kể trên các chip thế hệ đầu tiên thông qua các cải tiến về trình biên dịch. RNGD đã cho thấy kết quả thử nghiệm ban đầu rất ấn tượng, đặc biệt là trên các mô hình ngôn ngữ lớn và đạt hiệu suất thông lượng cao trên một thẻ PCIe duy nhất.

June Paik, đồng sáng lập và Giám đốc điều hành của FuriosaAI, đã nhấn mạnh tính chất bền vững và dễ tiếp cận của RNGD như một giải pháp điện toán cho suy luận AI. Ông Pike bày tỏ sự tự hào về sự cống hiến của toàn đội trong việc đưa RNGD ra mắt thành công. Giám đốc điều hành sẽ trình bày các tiêu chuẩn hiệu suất tại Hot Chips, cung cấp cái nhìn sâu sắc về khả năng của máy gia tốc và cung cấp bản trình diễn trực tiếp về thẻ RNGD đầy đủ chức năng.

RNGD của FuriosaAI tự hào có một số cải tiến quan trọng, bao gồm kiến ​​trúc dựa trên Bộ xử lý co kéo (TCP) không matmal giúp cân bằng giữa hiệu quả, khả năng lập trình và hiệu suất. Các đối tác của công ty đánh giá cao các giải pháp suy luận AI giúp thúc đẩy điện toán xanh và giảm mức tiêu thụ điện năng trong khi vẫn duy trì hiệu suất suy luận cao. RNGD hiện có sẵn cho khách hàng truy cập sớm và dự kiến ​​phát hành rộng rãi hơn vào đầu năm 2025. Để tìm hiểu thêm về kiến ​​trúc và khả năng của RNGD, hãy truy cập blog của FuriosaAI.