Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
.webp)
Mô hình MoE thành công với Karakuri AWS
Generatived
14:31 21/5/24
Karakuri (Chuo-ku, Tokyo) thông báo rằng họ là công ty đầu tiên trên thế giới học thành công mô hình MoE trên AWS Trainium bằng cách sử dụng "Chương trình hỗ trợ phát triển AWS LLM" của AWS Nhật Bản. Mô hình ngôn ngữ quy mô lớn mới "KARAKURI LM 8x7B Chat v0.1" nhận được điểm cao nhất là mô hình mở trong nước và được phát hành vào ngày 7 tháng 5 năm 2024.
Trong bối cảnh thiếu GPU, một thủ thuật cho thấy những khả năng mới dành cho bộ tăng tốc AI bằng cách sử dụng AWS Trainium. Công ty đã tiến hành nghiên cứu và phát triển với mục đích phát triển AI tổng hợp không dựa vào GPU. AWS Trainium được cho là có thể giảm tới 50% chi phí đào tạo và chi phí phát triển lần này được giữ ở mức khoảng 300.000 yên.
Karakuri được chọn tham gia "Chương trình hỗ trợ phát triển AWS LLM" vào tháng 9 năm 2023 và bắt đầu phát triển "KARAKURI LM 70B Chat v0.1" với 70 tỷ thông số. Mẫu mới "KARAKURI LM 8x7B Chat v0.1" sử dụng phương pháp MoE cũng nhận được nhiều đánh giá cao.
Chi phí phát triển cho "KARAKURI LM 8x7B Chat v0.1" là khoảng 300.000 yên và thời gian học là 12 giờ nên rất hiệu quả. Bằng cách hiện thực hóa sự phát triển với chi phí thấp này, dự kiến LLM tùy chỉnh sẽ được sử dụng trong ngành tài chính và y tế.
Chia sẻ bài viết này:
Tin tức mới nhất
Pacificnet mở rộng phạm vi dịch vụ quản lý và xử lý thiết bị CNTT (ITAD) cho cơ sở hạ tầng AI.
9:00 7/7/26
Pacificnet vừa thông báo mở rộng dịch vụ quản lý tài sản CNTT lỗi thời (ITAD) của mình, không chỉ giới hạn ở máy tính cá nhân mà còn bao gồm cả thiết bị cơ sở hạ tầng trí tuệ nhân tạo (AI)
Nayutam hợp tác với Dock Labs để phát triển công nghệ nhận dạng AI.
9:00 7/7/26
Nayutam vừa công bố hợp tác chiến lược với Dock Labs để mở rộng hợp tác tại thị trường doanh nghiệp Nhật Bản.
Công ty Tokyo Artisan Intelligence đẩy mạnh sản xuất hàng loạt chip AI.
9:00 7/7/26
Tokyo Artisan Intelligence thông báo rằng việc đánh giá chip thử nghiệm AI có thể cấu hình lại, Sting Ray, đã hoàn tất, đánh dấu bước chuyển sang sản xuất hàng loạt.
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp th ông tin về thế giới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
Pacificnet mở rộng phạm vi dịch vụ quản lý và xử lý thiết bị CNTT (ITAD) cho cơ sở hạ tầng AI.
9:00 7/7/26
Pacificnet vừa thông báo mở rộng dịch vụ quản lý tài sản CNTT lỗi thời (ITAD) của mình, không chỉ giới hạn ở máy tính cá nhân mà còn bao gồm cả thiết bị cơ sở hạ tầng trí tuệ nhân tạo (AI)
Nayutam hợp tác với Dock Labs để phát triển công nghệ nhận dạng AI.
9:00 7/7/26
Nayutam vừa công bố hợp tác chiến lược với Dock Labs để mở rộng hợp tác tại thị trường doanh nghiệp Nhật Bản.
Công ty Tokyo Artisan Intelligence đẩy mạnh sản xuất hàng loạt chip AI.
9:00 7/7/26
Tokyo Artisan Intelligence thông báo rằng việc đánh giá chip thử nghiệm AI có thể cấu hình lại, Sting Ray, đã hoàn tất, đánh dấu bước chuyển sang sản xuất hàng loạt.