Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

医療、金融、政府といった規制の厳しい業界におけるAIシステムの検証は、データの不足とプライバシーの制約により、大きな課題となっています。ベンチマーク作成に必要となることが多い実世界のデータは、機密保持契約、データの断片化、あるいは高額なアノテーションコストのために、通常はアクセスできません。こうした状況はイノベーションを阻害し、AI評価において推測に頼らざるを得なくなります。特に、市民サービス向けAIアシスタントのような政府アプリケーションでは、堅牢な評価ベンチマークが不可欠でありながら、個人データを侵害してはなりません。

様々な業界におけるこれらの課題に対処するため、AIを活用したプライバシー保護型評価ワークフローが導入されました。このワークフローにより、実世界の記録を公開することなく、ドメイン固有の合成データセットと再現可能なベンチマークを作成できます。NVIDIA NeMo Data DesignerやNVIDIA NeMo Evaluatorなどのツールを活用することで、大規模言語モデル（LLM）を効率的かつ安全に生成・評価できます。このアプローチは、医療現場を例に、救急室における合成トリアージノートの生成を実証しています。

合成データは、プライバシーに配慮が必要な分野におけるAI開発の重要なリソースとして台頭しています。これにより、プライバシー規制を遵守しながら、多様なシナリオや稀なエッジケースの作成が可能になります。合成データの使用は開発期間を短縮し、データセットとベンチマークの迅速な作成を可能にします。これは特に医療分野において有益です。AIは救急室でのトリアージを改善する可能性を秘めていますが、実際の患者データへのアクセスが制限されているという問題があります。

合成データの生成とモデル評価を始めるには、開発者はNeMo Data Designer を使用して合成データセットを作成し、NeMo Evaluator を使用してモデル予測のベンチマークを行うことができます。このプロセスには、現実的な制約を伴う合成トリアージノートの生成と、自動化されたベンチマークを用いたLLM予測の評価が含まれます。このワークフローは、患者のプライバシーを損なうことなくラベル付けされたサンプルのスケーリングを容易にし、 CI/CDパイプラインに統合して継続的な検証を可能にします。NVIDIA NemotronモデルやNVIDIA NIM APIなど、ここで紹介したツールとモデルは、 Hugging FaceやNVIDIA Buildなどのプラットフォームで利用できます。