Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

マイクロソフトは、児童を性的搾取から守るため、生成AI技術の安全対策を強化するため、ThornおよびAll Tech is Humanと提携することを発表した。このテクノロジー大手は、AIの悪用を積極的に防止することに重点を置いた原則を統合しており、これはAI生成の悪質なコンテンツに対抗するための既存の戦略と一致している。マイクロソフトは、堅牢な安全アーキテクチャーの重要性と、全米行方不明・被搾取児童センターやWeProtect Global Allianceなどの組織とのパートナーシップを含む業界全体の協力の必要性を強調している。

児童の安全を強化するため、マイクロソフトは生成AIモデルの開発、展開、保守に特定の原則を組み込むことを約束した。同社は、これらのモデルが児童の安全リスクに積極的に対処するようにトレーニングされ、リリース前に安全性が評価されるように取り組んでいる。マイクロソフトはまた、プラットフォームに対する警戒を維持し、新たな児童の安全リスクに積極的に対応する予定だ。この取り組みは、児童性的虐待資料（CSAM）やその他の有害コンテンツの作成や配布にAI技術が使用されるのを防ぐための重要な取り組みだ。

Microsoftの取り組みは、進捗状況を透明に報告し、政策立案者と協力してAIの安全性と革新を促進する法的枠組みをサポートすることにまで及ぶ。同社はベストプラクティスを共有し、AI Safety Instituteと協力して安全対策を推進することに尽力している。最先端のメディア来歴ソリューションの開発と開発者の責任の促進に重点を置くことで、Microsoftは子供たちにとってより安全なオンライン環境を作り、AIテクノロジーの敵対的悪用と戦うことを目指している。ソース：