Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Citadel AI（東京都渋谷区）は、NEDOの「AIセーフティ強化に関する研究開発」事業に産総研、コーピーと共同で提案し、採択されたと発表した。本事業はAIセーフティ基準の策定や評価・管理技術の開発を目指す。安全性の評価基準や暮らし領域での評価手法の開発、国際標準化のためのガイダンス整備が含まれる。

生成AI技術の進展に伴い、その安全性や信頼性の評価基準が求められている。AIはビジネスアプリケーションや自動車、ロボットなどに組み込まれ、日本の競争力に影響を及ぼす可能性がある。

Citadel AIは、AIセーフティ・インスティテュート（AISI）、産総研、AI品質マネジメントイニシティアブ（AIQMI）と連携し、AIセーフティの評価基準や評価手法の整理、企業向け実装解説の作成、評価指標の開発などを進める。これにより、日本ブランドの価値向上と企業の国際競争力強化に貢献する。

Citadel AIは「信頼できるAI」の社会実装を目指すグローバルスタートアップである。ハイリスクAIに対応した品質検証・モニタリングツールを提供し、BSIなど国際標準業界から高評価を得ている。代表取締役は小林裕宜、設立は2020年12月10日である。