Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

カラクリ（東京都中央区）は、日本語に特化した生成AIのガードレール「KARAKURI Guardrails」のβ版提供を開始した。安全管理システムとして、ユーザーとのインタラクションを監視・制御し、生成AIの安心利用を目指す。

OpenAIのChatGPTにおけるガードレール導入を受け、GoogleやNVIDIAなどが機能強化に注力。しかし、これらは英語圏向けであり、日本独自の言語・文化を反映していない。カラクリは国産オープンモデル「KARAKURI LM」のノウハウを活かし、日本向けのAIセキュリティ基準を確立する。

「KARAKURI Guardrails」は、有害コンテンツ検出やプライバシー保護などに加え、日本語の表現や慣習に即した検知・制御を実現。企業固有の要件に合わせたカスタマイズも可能で、リスク管理と安全なコミュニケーション環境を提供する。

AWSのイベント「re:Invent 2024」で、ソニーがカラクリの「KARAKURI LM」と「KARAKURI Guardrails」を紹介。カラクリはAIスタートアップとして、カスタマーサポート向けAIシリーズを提供し、多くのトップ企業に選ばれている。