Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Inoxoft đã công bố WhiteLightning, một công cụ giao diện dòng lệnh nguồn mở mới được thiết kế để cho phép các nhà phát triển đào tạo và triển khai các bộ phân loại văn bản mà không cần kết nối đám mây hoặc các mô hình ngôn ngữ lớn. Đội ngũ kỹ sư AI và ML của công ty đã dành hơn một năm để phát triển giải pháp này nhằm đáp ứng nhu cầu ngày càng tăng về xử lý ngôn ngữ tự nhiên thông minh, chú trọng quyền riêng tư trên các thiết bị biên và trong môi trường ngoại tuyến.

WhiteLightning nổi bật với phương pháp tiếp cận giáo viên-học viên sáng tạo, nén dữ liệu tổng hợp do LLM tạo ra thành một mô hình ONNX cực kỳ nhỏ gọn, dưới 1MB, đảm bảo hoạt động mượt mà trên nhiều loại phần cứng. Giám đốc điều hành Inoxoft, ông Liubomyr Pohreliuk, nhấn mạnh rằng công cụ này cũng hoạt động nhanh chóng và đáng tin cậy ngay cả khi ngoại tuyến, giúp loại bỏ nhu cầu phải liên tục sử dụng các mô hình lớn.

Công cụ này có một số tính năng chính hấp dẫn các nhà phát triển: giá cả phải chăng với phí đào tạo một lần, kích thước mô hình nhỏ gọn và khả năng chạy trên phần cứng tối thiểu như Raspberry Pi hoặc điện thoại thông minh đời cũ. WhiteLightning hỗ trợ đa nền tảng, đảm bảo hiệu suất nhất quán trên nhiều ngôn ngữ lập trình khác nhau. Nó cũng được thiết kế để hoạt động hoàn toàn ngoại tuyến, loại bỏ lo ngại về rò rỉ dữ liệu và phụ thuộc vào nhà cung cấp.

Các nhà phát triển quan tâm đến WhiteLightning có thể truy cập nó trên GitHub, nơi có sẵn tài liệu toàn diện, mẫu thử nghiệm và mẫu triển khai. Công cụ này là một tiện ích CLI, không phải dịch vụ lưu trữ, cung cấp cho các nhà phát triển khả năng AI chính xác và có thể kiểm soát, có thể sử dụng cục bộ mà không cần cơ sở hạ tầng bổ sung. Nó được hỗ trợ tích cực bởi đội ngũ Inoxoft và đi kèm với giấy phép nguồn mở cùng lộ trình phát triển do cộng đồng thúc đẩy.