Meta は、生成 AI コミュニティ内で責任ある開発を促進することを目的とした包括的なイニシアチブである、「Purple Llama」 の立ち上げを発表しました。 Purple Llama は、開発者によるより安全な AI モデルの作成を支援するために、サイバーセキュリティと入出力保護に重点を置いた一連のツールと評価を提供する予定だ。このプロジェクトはサイバーセキュリティの実践からインスピレーションを得ており、攻撃戦略と防御戦略を組み合わせて、生成 AI によってもたらされる特有の課題に対処するとのこと。
AI 生成コンテンツの急増に伴い、Meta は、AI 生成コードに関連するリスクを最小限に抑えるように設計された大規模言語モデル (LLM) に対する一連のサイバーセキュリティ安全性評価を導入した。これらのベンチマークはセキュリティ専門家と協力して開発され、サイバーセキュリティのリスクを定量化し、安全でないコードの提案の頻度を減らし、LLM がサイバー攻撃を促進するのを防ぐことを目的としている。この取り組みは、AI セキュリティを強化するというホワイトハウスの取り組みと一致しており、サイバー攻撃者による LLM の有用性を抑制することが期待されているとのこと。
サイバーセキュリティ対策に加えて、Meta は、開発者が危険な出力の生成を防ぐのに役立つオープンソース モデルである 「Llama Guard 」もリリースした。このツールは、LLM とのすべてのやり取りがさまざまなアプリケーションに適したコンテンツ ガイドラインに準拠していることを確認するための広範な取り組みの一環である。さまざまなデータセットでトレーニングされたこのモデルの方法論と結果は、AI エコシステム内でのカスタマイズとベスト プラクティスの採用を促進するために公開されているという。
Meta のオープンエコシステムへの取り組みは、共同研究とパートナーシップの歴史によって強化されている。 7 月に Llama 2 がリリースされ、100 社を超えるパートナーが参加し、この最新の取り組みの準備が整った。 Purple Llama は、テクノロジー大手や AI に重点を置いた組織を含む幅広いパートナーによってサポートされており、信頼と安全に重点を置いて生成 AI が開発されるエコシステムを推進するという目標に全員が団結していると述べた。
ソース：Meta Newsroom
