Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Một blog về Stability AI gần đây cho biết rằng Stability AI đã phát hành một mô hình ngôn ngữ quy mô lớn (LLM) truy cập mở mới mạnh mẽ được coi là tốt nhất trong ngành vào thời điểm đó. LLM này sở hữu các kỹ năng ngôn ngữ và lý luận nâng cao, đồng thời có thể giải các bài toán phức tạp cũng như các nhiệm vụ có giá trị cao khác. Để cải thiện hiệu suất và độ an toàn của mô hình, AI ổn định đã yêu cầu các nhà nghiên cứu và phát triển an toàn AI cung cấp phản hồi và lặp lại công nghệ. Tuy nhiên, việc đánh giá những mô hình này đòi hỏi sức mạnh tính toán khổng lồ nằm ngoài tầm với của các nhà nghiên cứu thông thường. Để giải quyết vấn đề này, Stability AI đã công bố hai sáng kiến ​​nhằm cung cấp rộng rãi hơn các mô hình tốt nhất. Nỗ lực đầu tiên là Stable Chat, một trang web miễn phí nơi các nhà nghiên cứu và những người đam mê an toàn AI có thể đánh giá tương tác các phản hồi LLM tốt nhất và cung cấp phản hồi về tính an toàn và hữu ích của chúng. Sáng kiến ​​thứ hai bao gồm việc giới thiệu các mô hình AI ổn định tốt nhất trong cuộc thi “Làng AI” của Đội Đỏ do Nhà Trắng tài trợ tại DEFCON 31 ở Las Vegas. Cuộc thi này nhằm mục đích kiểm tra các giới hạn của mô hình và xác định các lỗ hổng và thành kiến. Để tạo điều kiện thuận lợi cho việc đánh giá mô hình, Stability AI đã ra mắt Bản xem trước nghiên cứu trò chuyện ổn định, một giao diện web cho phép cộng đồng AI đánh giá tương tác các mô hình ngôn ngữ trên quy mô lớn. Các nhà nghiên cứu có thể sử dụng nền tảng này để cung cấp phản hồi về tính an toàn và chất lượng của các phản hồi của mô hình cũng như gắn cờ nội dung thiên vị hoặc có hại. Tuy nhiên, Stability AI nhấn mạnh rằng trang web này chỉ nhằm mục đích nghiên cứu và không nên được sử dụng cho các ứng dụng trong thế giới thực hoặc mục đích thương mại. Vào tháng 8, các mô hình tốt nhất về AI ổn định sẽ được trưng bày tại DEFCON 31, nơi những người tham dự sẽ đánh giá và nghiên cứu các lỗ hổng, thành kiến ​​và rủi ro về an toàn. Kết quả của sự kiện này sẽ giúp Stability AI và cộng đồng AI rộng lớn hơn xây dựng các mô hình an toàn hơn và nêu bật tầm quan trọng của các đánh giá độc lập về độ an toàn và trách nhiệm giải trình của AI. Stability AI cam kết thúc đẩy tính minh bạch trong AI và coi việc chúng tôi tham gia DEFCON là cơ hội hợp tác với các nhà nghiên cứu bảo mật bên ngoài.