top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

バーテックスAI、セキュアなチャットボット機能を提供開始

Generatived

25/2/27 13:30

Vertex AI(本社所在地)は、AIを活用したチャットボットやエージェントの導入が進む中、有害なコンテンツのリスクを軽減するための新機能を発表した。コンテンツフィルタとシステム指示を用いて、安全かつ信頼性のあるやり取りを実現する方法を提供する。

コンテンツフィルタ機能では、生成されたテキストを分析し、有害なコンテンツをブロックする。Geminiモデルには、安全フィルタと構成可能なフィルタの2種類があり、禁止コンテンツの自動ブロックや有害カテゴリのしきい値設定が可能だ。ただし、誤検出のリスクも指摘されている。

一方、システム指示は、モデルの動作を事前に調整し、組織のニーズに合わせるためのガイダンスを提供する。これにより、ブランドの価値やターゲットオーディエンスに合わせたコンテンツ生成が可能となる。具体的な指示により、有害な内容の定義や回避したいトピックを明確にすることができる。

Vertex AIは、コンテンツフィルタとシステム指示の両方を使用することを推奨している。また、モデルの安全性構成を評価するためには、独自の評価セットを作成し、事前にテストすることが有効だと述べている。これにより、将来の変更時にテスト時間を短縮できるという。

この記事を共有:

最新のニュース
NVIDIAが機密計算技術検証

NVIDIAが機密計算技術検証

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、機密計算機能「Confidential Computing」を有効化した環境におけるAI推論処理の性能検証結果を公表した。

MicrosoftがGPT6提供

MicrosoftがGPT6提供

26/9/24 7:00

Microsoft(米国ワシントン州)は、開発プラットフォーム『Microsoft Foundry』において『GPT-6 Sol』および『GPT-6 Luna』の提供を開始した。

NVIDIAがウイルス構造公開

NVIDIAがウイルス構造公開

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、国際研究組織の連合体と共同で2,800種以上のウイルスにおけるタンパク質複合体の3D予測構造を一般公開したと発表した。

NVIDIAが新評価指標発表

NVIDIAが新評価指標発表

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、推論サーバー向けソフトウェアにおけるAIコーディングエージェントの性能を測定する新評価指標『SWE-Serve』を発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
NVIDIAが機密計算技術検証

NVIDIAが機密計算技術検証

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、機密計算機能「Confidential Computing」を有効化した環境におけるAI推論処理の性能検証結果を公表した。

MicrosoftがGPT6提供

MicrosoftがGPT6提供

26/9/24 7:00

Microsoft(米国ワシントン州)は、開発プラットフォーム『Microsoft Foundry』において『GPT-6 Sol』および『GPT-6 Luna』の提供を開始した。

NVIDIAがウイルス構造公開

NVIDIAがウイルス構造公開

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、国際研究組織の連合体と共同で2,800種以上のウイルスにおけるタンパク質複合体の3D予測構造を一般公開したと発表した。

NVIDIAが新評価指標発表

NVIDIAが新評価指標発表

26/9/24 7:00

NVIDIA(米国カリフォルニア州)は、推論サーバー向けソフトウェアにおけるAIコーディングエージェントの性能を測定する新評価指標『SWE-Serve』を発表した。

bottom of page