Perusahaan keamanan AI yang berbasis di Seattle, mpathic, mengumumkan ekspansinya ke dukungan bagi pengembang model dan aplikasi dasar yang memanfaatkan model bahasa skala besar (LLM). Solusi berbasis klinis perusahaan kini tersedia untuk berbagai pengembang AI dan mitra korporat, yang mencapai pertumbuhan signifikan pada akhir tahun lalu.

Dengan rekam jejak yang terbukti dalam uji klinis dan lingkungan rumah sakit, perusahaan menawarkan layanan yang memungkinkan tim AI untuk menguji perilaku model secara ketat sebelum penerapan. Alat mpathic mengevaluasi respons AI terhadap kriteria klinis dan menyediakan kemampuan pemantauan untuk mengatasi potensi masalah selama interaksi di dunia nyata. Kerja sama awal dengan pembuat model AI telah secara signifikan mengurangi respons model yang tidak perlu.

Didirikan oleh psikolog berlisensi Dr. Glynn Lord dan klinisi serta inovator teknologi Dr. Daniel Schlosser, mpathic telah memantapkan dirinya sebagai pemimpin dalam mengintegrasikan keahlian klinis ke dalam protokol keamanan AI. Para pendiri menekankan pentingnya AI sebagai alat respons utama dalam situasi krisis dan berkomitmen untuk memastikan interaksi ini dikelola dengan aman.

Pendekatan mpathic mencakup pembuatan alur kerja untuk mengidentifikasi pola kegagalan dalam interaksi AI, khususnya dalam situasi sensitif. Mereka juga menyediakan alat untuk melakukan benchmarking dan meningkatkan model AI, serta pemantauan waktu nyata untuk secara proaktif mengatasi risiko. Upaya mereka telah menunjukkan hasil yang mengesankan, dengan pengurangan signifikan dalam respons AI yang tidak diinginkan dalam percakapan berisiko tinggi. Pertumbuhan perusahaan dan kemitraan dengan laboratorium AI terkemuka dan lembaga klinis menyoroti peningkatan fokus pada keselamatan dalam strategi penerapan AI.