top of page
Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
logo.png

OpenAI、AIを調整するためにスーパーアラインメントチームを発足

OpenAIのブログによると、この組織は超知能の調整の問題を解決することに専念する新しいチームを設立した。 Ilya SutskeverとJan Leikeが率いるこのチームは、人間の知能を超える AI システムの制御と操作に関連する課題に対処することを目的としている。 OpenAI は、今後4年間でコンピューティング リソースの 20% をこの重要な取り組みに割り当てる予定だ。

超知能の出現(シンギュラリティ―)はこの10年以内と予想されており、人類の最も差し迫った問題のいくつかを解決する計り知れない可能性を秘めている。しかし、超知能システムが行使する巨大な力は、人間の無力化や絶滅の可能性を含む重大なリスクももたらす。

現在、人間のフィードバックからの強化学習など、AIシステムを調整するための手法は人間の監督に大きく依存している。しかし、AIシステムが人間よりもはるかに賢くなるにつれて、従来の調整技術ではもはや十分ではなくなる。OpenAIは、超知性の連携によってもたらされる課題に効果的に対処するには、科学的かつ技術的なブレークスルーの必要があると認識している。

この問題に取り組むためのOpenAIのアプローチには、ほぼ人間レベルの機能を備えた自動アライメントの研究を構築することが含まれる。重要な計算リソースを活用することで、彼らは取り組みを拡大し、超知性を繰り返し調整することを目指している。 その主なプロセスには、スケーラブルなトレーニング方法の開発、結果のモデルの検証、調整パイプラインのストレステストが含まれる。

人間にとって困難なタスクを評価する難しさを克服するために、OpenAIはAIシステムを活用してスケーラブルな監視を行うことを計画している。また、モデルが監視されていないタスクに対する監視をどのように一般化するかを理解し、制御することも目指している。 調整の検証には、問題のある動作の検索を自動化し、AIシステム内部の解釈可能性を確保することが含まれる。さらに、OpenAIは、調整から外れたモデルを意図的にトレーニングして、深刻なずれを検出する技術の能力をテストする予定だ。

OpenAIは、この問題についてさらに学ぶにつれて、研究の優先順位が変わる可能性があることを認めている。さらに、その結果を広く共有し、OpenAI以外のモデルの整合性と安全性に積極的に貢献する重要性も強調している。

この記事を共有:

最新のニュース
MedicalTalk無料PoC開発支援キャンペーン

MedicalTalk無料PoC開発支援キャンペーン

2024年10月11日 4:30:20

MedicalTalk(東京都葛飾区)は、新規事業支援の一環として、生成AI技術を駆使したPoC開発を無料で提供するキャンペーンを発表。

GROWTH VERSEとProtea AI記事作成サービス開始

GROWTH VERSEとProtea AI記事作成サービス開始

2024年10月11日 4:30:20

GROWTH VERSE(東京都豊島区)とProtea(東京都千代田区)は、AIを活用した記事作成サービス「AIフォースSEO」を開始した。

LegalOn電子契約機能追加開始2024

LegalOn電子契約機能追加開始2024

2024年10月11日 4:30:20

LegalOn Technologies(東京都渋谷区)は、AI法務プラットフォーム「LegalOn Cloud」に「サイン(電子契約)」機能を追加し、2024年12月よりサービスを開始すると発表した。

ベルシステム24ナレッジCX支援サービス

ベルシステム24ナレッジCX支援サービス

2024年10月11日 4:30:20

ベルシステム24(東京都港区)は、生成AI Co-Creation Lab.の取り組みを通じて、企業のナレッジデータ化に関する課題を把握。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

最新のニュース
MedicalTalk無料PoC開発支援キャンペーン

MedicalTalk無料PoC開発支援キャンペーン

2024年10月11日 4:30:20

MedicalTalk(東京都葛飾区)は、新規事業支援の一環として、生成AI技術を駆使したPoC開発を無料で提供するキャンペーンを発表。

GROWTH VERSEとProtea AI記事作成サービス開始

GROWTH VERSEとProtea AI記事作成サービス開始

2024年10月11日 4:30:20

GROWTH VERSE(東京都豊島区)とProtea(東京都千代田区)は、AIを活用した記事作成サービス「AIフォースSEO」を開始した。

LegalOn電子契約機能追加開始2024

LegalOn電子契約機能追加開始2024

2024年10月11日 4:30:20

LegalOn Technologies(東京都渋谷区)は、AI法務プラットフォーム「LegalOn Cloud」に「サイン(電子契約)」機能を追加し、2024年12月よりサービスを開始すると発表した。

ベルシステム24ナレッジCX支援サービス

ベルシステム24ナレッジCX支援サービス

2024年10月11日 4:30:20

ベルシステム24(東京都港区)は、生成AI Co-Creation Lab.の取り組みを通じて、企業のナレッジデータ化に関する課題を把握。

bottom of page