AI分野の主要研究組織であるOpenAIは、民主的なプロセスを通じてAIシステムを管理する方法を探求するための新しい助成プログラムを発表しました。このプログラムでは、AIシステムが従うべきルールを審議し決定するために広く代表的な人々が参加する実験に資金を提供するために、10万ドルの助成金が10件に授与されます。目標は、公共の利益を反映し、AIによってもたらされる複雑で微妙な課題に対処できるプロセスのイノベーションを促進することです。この補助金プログラムは、資格基準を満たし、2023年6月24日までに申請書を提出できる人なら誰でも参加できます。
AIを管理する民主的プロセスの探求
OpenAIの発表は、AIシステム、特にChatGPTのような大規模言語モデルがより強力になり、普及しつつある時期に行われました。これらのシステムは、記事、コード、ニュースレポート、法的文書の作成など、従来人間の知性と創造性を必要とするタスクを実行できるため、経済的および社会的に重大な影響を及ぼします。ただし、これらのシステムは、人権、プライバシー、セキュリティ、民主主義などに影響を与える可能性があるため、ガバナンス、規制、倫理に関して複雑で微妙な課題も引き起こしています。例えば、AIシステムは公人の視点に関する質問にどのように答えるべきでしょうか？ 彼らは中立であるべきでしょうか、回答を拒否すべきでしょうか、それとも情報源を提供すべきなのでしょうか？「CEO」や「看護師」など、不明確なプロンプトの画像を生成する場合、AIシステムは多様性と均質性のバランスをどのようにとるべきでしょうか？ AIシステムは、人権と地域の文化的または法律的な違いの両方に関係するトピックをどのように処理すべきでしょうか？
OpenAIは、AIがどのように動作するかについての決定は、公共の利益を反映する多様な視点によって形成されるべきであり、AIの動作を管理するには改善された民主的手法が必要であると考えています。そこで同社は、法律で定められた範囲内でAIシステムが従うべきルールを決定するための民主的なプロセスを確立するための実験に資金を提供する助成プログラムを立ち上げた。彼らの発表の詳細は次の通りです。
・助成プログラムでは、少なくとも500人の参加者が参加するコンセプトを発表。2023年10月20日までに研究成果に関する公開レポートを公開、研究の背後にあるコードをオープンソース化し、選ばれた応募者10名に10万ドルの助成金が授与されます。
・助成プログラムは、資格基準を満たし、2023年6月24日までに申請書を提出する限り、世界中の個人、チーム、組織が参加可能です。
・OpenAIの「民主的プロセス」とは、広範な代表者グループが意見を交換し、熟議を行い、最終的には透明性のある意思決定プロセスを通じて結果を決定するプロセスを意味します。このようなプロセスを構築する方法は数多くあります。OpenAIは、申請者が革新的になることを奨励し、既知の方法論を構築し、Wikipedia、Twitter Community Notes、DemocracyNext、Platform Assemblies、MetaGov、RadicalxChange、People Powered、Collective Response Systems、pol.isなどのアプローチの例を参考に、全く新しいアプローチを考案しています。OpenAIはまた、申請者に対し、AIが民主的プロセスをどのように強化できるかを想像することを奨励しています。例えば、AIにより多数の人々の間でより効率的なコミュニケーションが可能になる可能性があります。
・OpenAIは、応募者に提供されたリストから1つ以上の質問を選択するか、独自の質問を作成して、提案されたアプローチを紹介するよう促します。質問はモデルの動作に関するポリシーの問題に関連しています。助成金の主な目的は、プロセスの革新を促進することです。OpenAIは、質問に対する具体的な回答はプロセス自体の進歩よりも重要であると述べています。
・OpenAIには、Colin Megill氏（pol.is共同創業者）、Hélène Landemore氏（イェール大学政治学教授）、Aviv Ovadya氏（Berkman Klein Center）で構成されるアプリケーション諮問委員会があります。OpenAIは、評価指標、堅牢性、包括性、代表性、少数意見の強化、効果的な調整、拡張性、実行可能性、読みやすさなどのいくつかの要素に基づいてアプリケーションを評価します。
OpenAI、AIガバナンス実験に対する懐疑に直面
しかし、誰もがOpenAIの発表に熱意を持っているわけではありません。一部の批評家からは、OpenAI自体の動機と信頼性だけでなく、助成金プログラムの有効性と実現可能性について、以下のような懸念が表明されています。
・助成金プログラムはあまりにも曖昧かつ野心的であり、AIガバナンスの民主的なプロセスを構成するものについて明確な指針や基準を提供していません。OpenAIが応募者に選択または作成を促す質問も広範かつ複雑であり、最終的な回答や合意された回答がない可能性があります。
・助成金プログラムは短すぎて制限されており、申請者が実験を設計、実装、評価するのに十分な時間やリソースがありません。応募締め切りは発表からわずか1力月後、レポート発行の締め切りは受賞後わずか4力月です。100,000ドルの助成金では、少なくとも500人の参加者が参加し、堅牢でスケーラブルなシステムを開発するコストをカバーするには十分ではない可能性があります。
・助成金プログラムはあまりにも排他的かつエリート主義的であり、申請者または参加者の多様性と代表性が保証されていません。応募者の資格基準は明確に定められていないが、AIの研究や開発における経験や専門知識を持つ人が優遇される可能性がある。参加者の選考プロセスは、応募者自身の好みや議題によって偏ったり偏ったりする場合もあります。
・助成金プログラムはあまりにも利己的かつ偽善的であり、OpenAIが定めた使命や憲章を反映していません。OpenAIは、人類のためのAIの安全かつ有益な利用を創出し、保証することを目的とした非営利の研究組織であると主張しています。しかし、秘密主義、競争主義、利益追求型であるだけでなく、潜在的に有害または非倫理的なAIシステムを作成しているとも非難されています。例としては、悪意のあるアプリケーションに対する懸念からChatGPTモデルの大部分を保留する決定、Azureクラウドプラットフォームへの排他的アクセスを与えるMicrosoftとの提携、著作権や規範に違反する画像を生成できるDall-Eの開発などが挙げられます。
Reuterによると、もともとChatGPT上に構築されたAIストーリーテリングのスタートアップであるTomeは、Anthropic AIやStability AIなど、OpenAIのライバルの他のモデルの実験を開始したと述べています。目標は、遅延が最小で品質が最高で、各アクションに最適なモデルを見つけることです。また、Insight PartnersのAI投資家であるGeorge Mathew氏は、MicrosoftとOpenAIがAI分野を独占することはなく、健全に機能するエコシステムには複数の基礎モデルプロバイダーが存在するだろうと述べています。
また、主要テクノロジーメディアの一角であるTechCrunchは、次のように報じています。
発表の投稿の中で、OpenAIは助成プログラムがその商業的利益から完全に切り離されていることを示唆しています。しかし、EUで提案されているAI規制に対するAltman氏の最近の批判を考えると、これは少し飲み込むのが難しい薬です。Altman氏が先週米国上院議会委員会に出席し、今日存在するOpenAIのテクノロジーへの影響を最小限に抑える非常に特殊なAI規制を提唱したことを受けて、このタイミングも顕著に見えます。
それでも、例えプログラムが最終的には利己的なものになったとしても、AIの政策決定の方向性としては興味深い（明らかにEUの取り組みと重複しているとしても）ものです。私としては、「民主的プロセス」に向けてどのようなアイデアが生まれるのか、そしてOpenAIが最終的にどの申請者を選ぶのかに興味があります。
TechCrunch、「With new grant program, OpenAI aims to crowdsource AI regulation」
民主的なAIガバナンスの触媒
OpenAIがその助成プログラムで提起した議論は、さまざまな関係者や専門家がAIガバナンスの民主的なプロセスを確立する際の課題と機会について意見を交わすため、活発かつ多様になる可能性があります。この議論はまた、AIシステムの動作の形成に一般の人々を巻き込む革新的な方法を模索することに関心のある研究者、実務者、政策立案者、市民社会グループの間で新しいアイデアやコラボレーションを呼び起こす可能性があります。
この助成プログラムから期待できる成果は、AIガバナンスの民主的なプロセスを構築するためのさまざまなアプローチと方法を紹介する一連の実験です。実験は、実験で扱う質問、関与する参加者、使用するツール、および適用する基準に応じて、その設計、実装、評価、結果が異なる場合があります。この実験は、この分野での将来の取り組みのための貴重な洞察や教訓、さらには考慮すべき潜在的な課題やトレードオフも生み出す可能性があります。
この助成プログラムは、AI研究開発の分野だけでなく、AI問題に対する一般の認識や認識にも、より広範な影響を与える可能性があります。より多くの研究者や開発者に、仕事において倫理的で責任ある実践を採用し、多様で代表的なグループからのフィードバックや意見を求めるよう促すと見られるこのOpenAIの助成金プログラム発表。AI問題に対する国民の理解と関与が高まり、AIシステムの動作について国民が発言権や利害関係を持つことができるようになるか、注目されます。
