Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Kakao (Hàn Quốc) là một nền tảng nhắn tin với khoảng 49 triệu người dùng, chiếm 93% dân số cả nước. Trước những thách thức kỹ thuật, đội ngũ kỹ sư của công ty đã quyết định chuyển sang Google Cloud TPU và áp dụng nền tảng JAX, giải quyết các vấn đề về khả năng mở rộng và mở ra những hướng đi mới cho việc phát triển mô hình AI.

Kakao đã chiến lược chuyển đổi từ GPU sang Google Cloud TPU để phát triển mô hình AI, tối ưu hóa chi phí và hiệu quả, đồng thời cho phép phát triển mô hình AI quy mô lớn bằng nền tảng JAX. Dòng mô hình Kanana của công ty đã được phát hành dưới dạng mã nguồn mở trên Hugging Face Hub.

KakaoTalk cung cấp nhiều dịch vụ đa dạng ngoài nhắn tin văn bản, bao gồm trò chuyện bằng hình ảnh và nhãn dán, gọi thoại và gọi video, tài chính và điều hướng. Các mô hình ngôn ngữ của công ty phải có khả năng hiểu tiếng Hàn và hỗ trợ nhiều ứng dụng. Những yêu cầu này ảnh hưởng rất lớn đến các quyết định kỹ thuật.

Đội ngũ kỹ thuật của Kakao đang nghiên cứu đào tạo một mô hình chuyên gia hỗn hợp sử dụng khung JAX và một đường dẫn dữ liệu tùy chỉnh từ MaxText. Ryu Minho và Kim Nayeon cung cấp thông tin chi tiết về việc triển khai cụ thể và giới thiệu chi tiết về các nỗ lực kỹ thuật của họ.