Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

OpenAI やその他の主要な AI ラボは、AI テクノロジーとサービスの安全性、セキュリティ、信頼性を強化するために自主的な取り組みを行っています。ホワイトハウスが調整したこの取り組みは、世界中で効果的な AI ガバナンスを推進するための重要な一歩となります。安全で有益な AGI を開発するという使命の一環として、OpenAIは、OpenAIが生成するような高機能な基盤モデルに特化したガバナンス実践を積極的に試験運用し、洗練させています。さらに、AI モデルの潜在的に危険な機能を評価する技術など、規制に情報を提供するための研究にも投資しています。これらの自主的な取り組みは、AI テクノロジーの安全、安心、透明性のある開発と使用を促進することを目的としています。これらは既存の法律や規制と一致しており、生成 AI の法的および政策体制を推進することを目指しています。これらの約束は、同様の問題を対象とする規制が確立されるまで有効ですが、個々の企業はこれらの約束を超える可能性があります。安全は最優先事項であり、これらの取り組みを行う企業は、モデルまたはシステムに関して社内および社外のレッドチームを実施することを誓約します。これには、悪用、社会的リスク、バイオ、サイバー、その他の安全分野などの国家安全保障上の懸念の評価が含まれます。企業は、新モデルのすべての主要な公開リリースに対して、独立した分野の専門家を活用して、専門的かつ詳細なレッドチーム体制を開発します。また、生物、化学、放射線のリスク、サイバー能力、システムの相互作用とツールの使用、自己複製、偏見や差別などの社会的リスクへの対処にも焦点を当てます。 OpenAI とその他の企業は、AI の安全性に関する研究を推進し、レッドチームと安全性の手順を公開することに取り組んでいます。OpenAIでは、信頼と安全性を高めるために、企業は、信頼性と安全性のリスク、危険な能力、セーフガードを回避する試みに関する情報を自社と政府間で共有するよう努め、フロンティア AI の安全性のための共有標準とベスト プラクティスを開発するためのフォーラムまたはメカニズムを設立または参加します。この協力により、新たなリスクと脅威に関する情報の共有と技術作業グループの開発が促進されます。セキュリティは重要な側面であり、これらの取り組みを行う企業は、独自のモデルや未リリースのモデルの重みを保護するために、サイバーセキュリティと内部関係者の脅威の保護に投資することになります。モデルの重みへのアクセスを権限のある担当者に制限し、堅牢な内部脅威検出プログラムを確立します。さらに、報奨金システムやバグ報奨金プログラムを通じて、サードパーティによる問題や脆弱性の発見と報告を奨励します。信頼を育むために、企業はユーザーが音声コンテンツまたは映像コンテンツが AI によって生成されたものであるかどうかを判断できるメカニズムを開発します。 AI が生成したコンテンツの堅牢な出所や透かしシステムを作成し、コンテンツの出所を検証するためのツールや API を開発します。企業はまた、モデルまたはシステムの機能、制限、および適切な使用領域と不適切な使用領域を公的に報告します。彼らは、有害な偏見や差別など、AI システムによってもたらされる社会的リスクに関する研究を優先し、プライバシーを保護します。さらに、これらの取り組みを行う企業は、気候変動、がん検出、サイバー脅威などの社会の最大の課題に対処するために、フロンティア AI システムを開発および導入することになります。 AI の教育とトレーニングを促進し、国民がテクノロジーの性質、能力、限界、影響を理解できるよう支援する取り組みを支援します。OpenAI およびその他の企業は、政府、市民社会組織、学術界と協力して AI ガバナンスを推進することに取り組んでいます。これらの自主的な取り組みは、AI 規制に関する進行中の議論に具体的かつ具体的な実践に貢献し、安心・安全・信頼を最優先することで、責任ある有益なAI技術の開発・利用を目指しています。