Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Inoxoftは、クラウド接続や大規模な言語モデルを必要とせずに、開発者がテキスト分類器の学習とデプロイを行えるよう設計された、オープンソースの新しいコマンドラインインターフェースツール「WhiteLightning」を発表しました。同社のAIおよびMLエンジニアリングチームは、エッジデバイスやオフライン環境におけるインテリジェントでプライバシーに配慮した自然言語処理への高まる需要に応えるため、このソリューションの開発に1年以上を費やしました。

WhiteLightningは、革新的な教師と生徒の手法で際立っています。この手法は、LLMで生成された合成データを1MB未満の非常にコンパクトなONNXモデルに圧縮し、幅広いハードウェア上でスムーズに動作することを保証します。InoxoftのCEOであるLiubomyr Pohreliuk氏は、このツールがオフラインでも迅速かつ確実に動作し、大規模モデルを常に利用可能にする必要がないことを強調しました。

このツールは、開発者にとって魅力的ないくつかの重要な機能を備えています。例えば、一度限りのトレーニング費用による手頃な価格、モデルのサイズが小さいこと、Raspberry Piや古いスマートフォンなどの最小限のハードウェアで実行できることなどが挙げられます。WhiteLightningはクロスプラットフォーム対応で、様々なプログラミング言語で一貫したパフォーマンスを保証します。また、完全にオフラインで動作するように設計されているため、データ漏洩やベンダーロックインの懸念がありません。

WhiteLightningにご興味のある開発者は、 GitHubからアクセスできます。GitHubには、包括的なドキュメント、テストサンプル、デプロイメントテンプレートが用意されています。このツールはホスト型サービスではなく、CLIユーティリティであり、開発者は追加のインフラストラクチャを必要とせずに、ローカルで使用できる正確で制御可能なAI機能を利用できます。Inoxoftチームによって積極的にサポートされており、オープンソースライセンスとコミュニティ主導の開発ロードマップが提供されています。