Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Vultr gần đây đã công bố mở rộng nền tảng suy luận không có máy chủ của mình để tăng cường cơ sở hạ tầng cần thiết để triển khai AI tác nhân. Sự phát triển này được xây dựng dựa trên bản phát hành đầu tiên của nền tảng, cho phép các doanh nghiệp tự động mở rộng quy mô các mô hình và tận dụng thế hệ tăng cường tìm kiếm chìa khóa trao tay (RAG) trên 32 trung tâm dữ liệu trên toàn thế giới. Những tiến bộ của công ty sẽ giải quyết nhu cầu ngày càng tăng về nền tảng tác nhân AI và cung cấp các tài nguyên cần thiết cho điện toán hiệu suất cao ở rìa trung tâm dữ liệu.

Công nghệ không máy chủ của công ty, được hỗ trợ bởi GPU NVIDIA và AMD, cho phép tự động mở rộng quy mô suy luận mô hình AI, tối ưu hóa hiệu suất trên phần cứng tốt nhất mà không cần can thiệp thủ công. Cách tiếp cận của Vultr mang đến sự linh hoạt, cho phép sử dụng các mô hình nguồn mở phổ biến như Llama 3, cũng như tùy chọn để khách hàng triển khai các mô hình và cụm suy luận chuyên dụng của riêng họ trên toàn thế giới. Kevin Cochrane, giám đốc tiếp thị của Vultr, nhấn mạnh sự cân bằng giữa hiệu suất, hiệu quả chi phí và hiệu quả năng lượng nhờ khả năng suy luận không có máy chủ mở rộng.

Các khả năng RAG chìa khóa trao tay của Vultr đảm bảo xử lý dữ liệu an toàn và cho phép doanh nghiệp tạo đầu ra AI tùy chỉnh trong khi vẫn duy trì tính tuân thủ và bảo mật dữ liệu. Khả năng này cải thiện khả năng của hệ thống AI trong việc cung cấp phản hồi chính xác và theo ngữ cảnh trong thời gian thực. Ngoài ra, API tương thích OpenAI của công ty còn cung cấp giải pháp thay thế hiệu quả về mặt chi phí cho các doanh nghiệp để tích hợp AI vào hoạt động của họ, mang lại khả năng mở rộng và giảm nhu cầu đầu tư phần cứng lớn cũng như bảo trì máy chủ.

Sứ mệnh của Vultr là đơn giản hóa điện toán đám mây hiệu suất cao, giúp nó có thể truy cập được với giá cả phải chăng trên toàn thế giới. Với hơn 1,5 triệu khách hàng tại 185 quốc gia, công ty vẫn duy trì vị thế tư nhân và cung cấp nhiều giải pháp bao gồm điện toán đám mây, GPU đám mây, kim loại trần và lưu trữ đám mây. Chúng tôi đã khẳng định mình là một công ty lớn trong lĩnh vực này.