datagusto (Tokyo) telah merilis "datagusto," sebuah platform keamanan AI yang mencegah perilaku yang tidak diinginkan oleh agen AI. Teknologi baru ini menggantikan pengaman statis tradisional dan mendukung pengoperasian agen AI yang aman.

Perusahaan mengembangkan teknologi untuk mendeteksi dan mengurangi risiko yang ditimbulkan oleh agen AI secara real-time. Dalam eksperimen validasi menggunakan tolok ukur penilaian keamanan "PropensityBench," teknologi ini menunjukkan pencegahan 100% insiden yang tidak dapat dicegah menggunakan metode konvensional.

Dengan meningkatnya jumlah agen AI, perusahaan menghadapi risiko keamanan. datagusto menggunakan pendekatan yang mendeteksi perilaku secara real-time dan menghasilkan "pengaman dinamis" yang mengurangi risiko. Hal ini mengurangi upaya operasional dan memungkinkan pengoperasian yang aman.

Di masa mendatang, perusahaan berencana untuk mengembangkan fungsionalitas untuk mengevaluasi dan memberi skor keandalan agen AI, dengan tujuan menciptakan infrastruktur yang mendukung kepercayaan dalam masyarakat multi-agen. Perusahaan juga mencari perusahaan mitra untuk mengimplementasikan teknologi ini.