Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Scrumy（東京都中央区）は、代表取締役社長の笹埜健斗が生成AI技術を活用し、SNSなどのネット上の誹謗中傷発言を検知・非表示にするシステムを開発し、特許を出願したと発表した。このシステムは、ChatGPT（GPT-4）を用いて、オンラインでの誹謗中傷発言をリアルタイムで検出し、即座に対処することを目的としている。その結果、オンライン空間でのユーザー体験を向上させ、コミュニティー全体の健全性を保つことを目指しているという。

開発された誹謗中傷対策システムは、以下の4つの特徴を持つとのこと。①高度な自然言語処理能力：ChatGPTの最新AIモデルを用いて、日本語の微妙なニュアンスまで理解し、誹謗中傷を高精度で検出。②文脈に合わせたフィルタリング：日本語独自の表現や俗語にも対応し、適切なコンテキストでの分析が可能。③リアルタイム対応：オンライン上の会話をリアルタイムで監視し、問題のある内容を即座に識別。④進化するアルゴリズム：ユーザーのフィードバックを組み込んで自己学習し、誹謗中傷検出アルゴリズムは継続的に改善される。

このシステムの普及や改善を通じて、オンライン上での誹謗中傷の数が削減されることで、ユーザーにとっては精神的な安全を確保され、コミュニケーション活動が活性化し、生産的な対話が促進されることを期待している。また、企業や団体においても、このシステムを導入することで、自社のブランド価値を守ると共に、コミュニティー活動が活発になることを期待しているという。

開発者の笹埜健斗は、サステナビリティ学者（慶應義塾大学SFC研究所所員、サステナビリティ総合研究所所長）、SDGs社会起業家（Scrumy代表取締役）である。現在、SDGs（持続可能な開発目標）を経営や教育に応用するための「サステナビリティ学」の第一人者として、持続可能な社会の実現に向けた共同研究やChatGPTを活用した技術開発をリードしているとのことだ。