DataRobot telah mengumumkan kemitraan dengan lembaga pemerintah Singapura untuk memperkuat pengelolaan model bahasa skala besar (LLM) di bidang AI. Integrasi dengan inisiatif 'Project Moonshot' yang diumumkan pada Singapore Asia Tech x Summit akan memberikan alat baru bagi para profesional AI untuk menilai dan memitigasi risiko penerapan. Alat-alat ini mencakup kerangka kerja umum untuk latihan benchmarking dan tim merah dan kini menjadi bagian dari rilis produk terbaru DataRobot.

Jay Schuren, chief customer officer di DataRobot, menyatakan antusiasmenya untuk menggabungkan perangkat pengujian Project Moonshot ke dalam platformnya. Integrasi ini bertujuan untuk membuat penilaian LLM lebih mudah diakses dan mendorong penggunaan AI generatif secara bertanggung jawab. Platform yang diperbarui memungkinkan pengguna untuk mengaktifkan model penjaga yang memungkinkan mereka mengubah perilaku dan respons LLM, sehingga membangun kepercayaan pada aplikasi AI.

Project Moonshot menawarkan tiga fitur utama: alat penilaian otomatis yang dapat diintegrasikan ke dalam pipeline CI/CD yang ada, repositori benchmark untuk penilaian yang disesuaikan, dan alat komprehensif untuk latihan tim merah AI, termasuk jailbreak dan serangan yang disesuaikan . Ong Chen Hui, Ketua Komite Pengarah AI Verify Foundation, menekankan pentingnya Project Moonshot sebagai salah satu alat open source pertama yang menggabungkan latihan tim merah dan benchmarking dalam platform yang ramah pengguna, menyoroti pentingnya Project Moonshot sebagai salah satu alat sumber terbuka pertama yang menggabungkan latihan tim merah dan pembandingan dalam platform yang ramah pengguna mengatakan bahwa alat tersebut berkontribusi terhadap upaya sumber terbuka global menuju keselamatan.

CEO EDBI Paul Ng mendukung pertumbuhan DataRobot di Asia Tenggara, memuji ekspansi perusahaan di Singapura dan perannya dalam mendorong inovasi lokal, termasuk melalui kemitraannya dengan IMDA. Project Moonshot menyediakan alat yang dibutuhkan bisnis lokal untuk menerapkan teknologi AI generatif dengan percaya diri. Partisipasi DataRobot dalam AI Verify Foundation dan sertifikasi oleh IMDA mencerminkan komitmen perusahaan untuk memajukan tata kelola AI dan kerangka pengujian.