Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

人気のGandalf AIゲームで知られる著名なAIセキュリティー企業であるLakeraが正式に発足し、企業内の生成AIアプリケーションを保護するツールを開発者に提供した。フォーチュン500企業や大手LLMプロバイダーを含む顧客ベースを持つ同社は、安全なAIシステムの構築と展開を求める開発者にとって、長年頼りになるリソースだ。現在、Lakeraは業界トップのAIベースの脅威インテリジェンスにアクセスできるため、開発者は開発中の生成AIアプリケーションを迅速に保護できるようになる。

Lakeraの共同創設者であるDavid Haber氏、Matthias Kraft氏、Mateo Rojas-Carulla氏は、AI特有のニーズに対応できるエンタープライズセキュリティー ソリューションの市場におけるギャップを特定したという。航空宇宙および医療分野向けの機械学習システムの開発に10年を費やした後、このニーズに対応するためにLakeraを立ち上げた。同社は、本番環境でLLMを保護できるソリューションの緊急のニーズに応えて、2023年8月に最新製品Lakera Guardのベータ版をリリースした。それ以来、Lakera Guardにより、世界中の何千もの開発者がAIアプリケーションの安全な開発を開始できるようになった。

Lakera Guardは、同社のバイラルAI教育ゲームGandalfからのクラウドソーシングによる洞察と、オープンソースデータベースおよび専用の調査を統合した独自のデータベースを利用している。このデータベースは3,000万近くの攻撃データポイントを収集しており、毎日100,000エントリー以上増加し続けている。Lakera Guardを使用すると、開発者は1行のコードでこの脆弱性データをアクティブ化し、本番環境のAIアプリケーションにセキュリティー層を即座に組み込むことができるという。

Lakera GuardはLLMに依存せず、現在、プロンプトインジェクション、PIIの検出とマスキング、コンテンツのモデレーション、幻覚に対する保護によってQ＆Aユースケースのセキュリティーを確保することを優先している。自律型LLMエージェントを含む追加のユースケースのサポートは、今後数力月以内に予定されている。今年初め、Lakeraは、Fly Ventures、Inovia Capital、数名のエンジェル投資家が参加したRedalpine主導のラウンドで1,000万ドルの資金調達を確保したという。