Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Công ty an toàn AI mpathic có trụ sở tại Seattle đã thông báo mở rộng hoạt động sang hỗ trợ các nhà phát triển mô hình và ứng dụng nền tảng sử dụng mô hình ngôn ngữ quy mô lớn (LLM). Các giải pháp dựa trên kiến ​​thức lâm sàng của công ty hiện đã có sẵn cho nhiều nhà phát triển AI và đối tác doanh nghiệp hơn, đạt được sự tăng trưởng đáng kể vào cuối năm ngoái.

Với thành tích đã được chứng minh trong các thử nghiệm lâm sàng và môi trường bệnh viện, công ty cung cấp các dịch vụ cho phép các nhóm AI kiểm tra nghiêm ngặt hành vi của mô hình trước khi triển khai. Các công cụ của mpathic đánh giá phản hồi của AI dựa trên các tiêu chí lâm sàng và cung cấp khả năng giám sát để giải quyết các vấn đề tiềm ẩn trong các tương tác thực tế. Công việc ban đầu với các nhà xây dựng mô hình AI đã giảm đáng kể các phản hồi không cần thiết của mô hình.

Được thành lập bởi nhà tâm lý học được cấp phép, Tiến sĩ Glynn Lord và bác sĩ lâm sàng kiêm nhà đổi mới công nghệ, Tiến sĩ Daniel Schlosser, mpathic đã khẳng định vị thế dẫn đầu trong việc tích hợp chuyên môn lâm sàng vào các giao thức an toàn AI. Các nhà sáng lập nhấn mạnh tầm quan trọng của AI như một công cụ phản ứng chính trong các tình huống khủng hoảng và cam kết đảm bảo các tương tác này được quản lý an toàn.

Cách tiếp cận của mpathic bao gồm việc tạo ra các quy trình làm việc để xác định các mô hình lỗi trong tương tác AI, đặc biệt là trong các tình huống nhạy cảm. Họ cũng cung cấp các công cụ để đánh giá và cải thiện các mô hình AI, cũng như giám sát thời gian thực để chủ động giải quyết các rủi ro. Những nỗ lực của họ đã cho thấy kết quả ấn tượng, với sự giảm đáng kể các phản hồi không mong muốn của AI trong các cuộc hội thoại có rủi ro cao. Sự phát triển của công ty và các mối quan hệ đối tác với các phòng thí nghiệm AI hàng đầu và các tổ chức lâm sàng nhấn mạnh sự tập trung ngày càng tăng vào tính an toàn trong các chiến lược triển khai AI.