Karakuri (Chuo-ku, Tokyo) telah mulai menawarkan versi beta "KARAKURI Guardrails," pagar pembatas untuk Generative AI yang dikhususkan untuk bahasa Jepang. Sebagai sistem manajemen keselamatan, pagar pembatas ini memantau dan mengendalikan interaksi dengan pengguna, yang bertujuan untuk memastikan penggunaan Generative AI yang aman.

Setelah diperkenalkannya pembatas dalam ChatGPT OpenAI, Google, NVIDIA, dan yang lainnya berfokus pada penguatan fungsionalitas. Namun, pembatas ini ditujukan untuk negara-negara berbahasa Inggris dan tidak mencerminkan bahasa dan budaya Jepang yang unik. Karakuri akan memanfaatkan pengetahuan model terbuka domestiknya "KARAKURI LM" untuk menetapkan standar keamanan AI bagi Jepang.

"KARAKURI Guardrails" mendeteksi konten yang berbahaya, melindungi privasi, serta mendeteksi dan mengontrol sesuai dengan ungkapan dan adat istiadat Jepang. Produk ini juga dapat disesuaikan untuk memenuhi persyaratan khusus setiap perusahaan, menyediakan manajemen risiko dan lingkungan komunikasi yang aman.

Sony memperkenalkan "KARAKURI LM" dan "KARAKURI Guardrails" buatan Karakuri di acara AWS "re:Invent 2024." Karakuri adalah perusahaan rintisan AI yang menyediakan serangkaian AI untuk dukungan pelanggan dan telah dipilih oleh banyak perusahaan papan atas.