Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Mavenir (德克萨斯州理查森), một công ty phần mềm tập trung vào xây dựng mạng di động dựa trên trí tuệ nhân tạo (AI), hôm nay đã công bố hợp tác với Red Hat để tận dụng công nghệ AI của Red Hat nhằm cung cấp các giải pháp đảm bảo dịch vụ AI đàm thoại và AI tác nhân cho ngành viễn thông. Các giải pháp này sẽ được triển khai cục bộ với Red Hat OpenShift AI, đặt nền tảng cho hoạt động mạng có khả năng mở rộng cao, tập trung vào bảo mật, bền vững và tiết kiệm chi phí cho các nhà cung cấp dịch vụ viễn thông.

Sự hợp tác này tập trung vào việc chuyển đổi ngành viễn thông thông qua các giải pháp AI. Các giải pháp này tối đa hóa đầu tư vào các nền tảng hiện có và cung cấp thêm tính bảo mật, khả năng phục hồi và độ trễ thấp cần thiết cho hoạt động mạng thời gian thực. Mavenir hướng đến việc cung cấp các giải pháp AI tùy chỉnh cho ngành viễn thông, cải thiện hiệu quả chi phí và bảo mật. Các giải pháp này vượt trội hơn so với các dịch vụ AI được quản lý.

"Các nhà cung cấp dịch vụ cần quản lý trải nghiệm người dùng, chi phí và quyền riêng tư dữ liệu khi họ kiếm tiền từ AI và phát triển hướng tới các mạng tự động," ông Sachin Karkala, phó chủ tịch điều hành tại Mavenir, cho biết. "Sự hợp tác của chúng tôi với Red Hat sẽ cho phép chúng tôi phát triển các giải pháp AI được triển khai cục bộ để đạt được những mục tiêu này. Các mô hình AI thế hệ mới có thể được tinh chỉnh thông qua dữ liệu của nhà cung cấp dịch vụ để xây dựng các tác nhân tùy chỉnh, được bản địa hóa nhằm đạt hiệu suất tối ưu."

Mavenir và Red Hat cũng đang hợp tác với Phòng thí nghiệm Hệ sinh thái Viễn thông Mở (OTEL) của Dell Technologies. Phòng thí nghiệm này được vận hành bởi Dell PowerEdge R760xa, một máy chủ hiệu năng cao, được làm mát, phù hợp với nhiều ứng dụng, bao gồm AI, học máy và huấn luyện cũng như suy luận học sâu. Các chuyên gia AI của OTEL thuộc Dell đang hợp tác với các nhóm kỹ thuật của Mavenir và Red Hat để tinh chỉnh các mô hình ngôn ngữ quy mô lớn và tối đa hóa hiệu suất của cơ sở hạ tầng. Bằng cách triển khai các giải pháp này cục bộ bằng Red Hat OpenShift AI, các nhà cung cấp dịch vụ có thể tối ưu hóa hiệu quả tài nguyên GPU, duy trì toàn quyền kiểm soát các yêu cầu về bảo mật và quản trị, và dễ dàng quản lý vòng đời AI phức tạp hơn.

“Việc chuyển đổi AI doanh nghiệp từ giai đoạn chứng minh khái niệm sang sản xuất đòi hỏi một nền tảng được kiểm chứng với các thành phần bắt buộc như khả năng phòng thủ, khả năng quan sát và quản lý vòng đời mạnh mẽ. Red Hat OpenShift AI cung cấp nền tảng cần thiết này,” bà Honoré LaBourdette, Phó Chủ tịch của Red Hat, cho biết. “Cùng với Mavenir, chúng tôi đang chứng minh tính hiệu quả về chi phí của việc sử dụng GPU thông qua các công cụ như Queue và Dynamic Accelerator Slicer (DAS), được sử dụng để chia sẻ tài nguyên đa người dùng và giúp tối ưu hóa việc sử dụng các khoản đầu tư phần cứng có giá trị cao. Điều này, kết hợp với việc phục vụ mô hình độ trễ thấp với vLLM, sẽ giúp các ứng dụng thời gian thực như dịch giọng nói AI đạt được hiệu suất ổn định mà thị trường yêu cầu, chứng minh giá trị thực tiễn của các mô hình được triển khai cục bộ.”