Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NTT Research (Sunnyvale, California) thông báo rằng các nhà khoa học tại Viện Vật lý và Tin học (PHI) của họ đã đồng tác giả một bài báo đề xuất cách khắc phục sự thiên vị trong mạng lưới thần kinh sâu (DNN). DNN là một loại AI được sử dụng rộng rãi trong khoa học, kỹ thuật, kinh doanh và thậm chí cả các ứng dụng chung, nhưng đôi khi chúng có thể dựa vào các thuộc tính không phù hợp và có thể truyền đạt sự thiên vị. Bài báo được đề xuất bởi Ekdeep Singh Rubana, nghiên cứu sinh tại Đại học Michigan và thực tập sinh nghiên cứu tại Viện PHI, Hidenori Tanaka, nhà khoa học nghiên cứu tại Trung tâm Khoa học Não Harvard và ba nhà khoa học khác. Chúng tôi đề xuất một thuật toán mới khắc phục được vấn đề này. những hạn chế của việc tinh chỉnh đơn giản, phương pháp hiện tại để giảm lỗi hoặc "tổn thất" trong DNN và giảm sự phụ thuộc của mô hình vào các thuộc tính dễ bị sai lệch. Mặc dù các công nghệ hỗ trợ DNN, đặc biệt là AI tổng hợp, rất phổ biến nhưng nguyên tắc hoạt động của chúng phần lớn vẫn chưa được biết đến. Các tác giả của bài viết này tập trung vào bối cảnh mất mát của DNN. Cụ thể, chúng tôi xem xét cách kết nối các chức năng giảm thiểu tổn thất dựa trên các cơ chế khác nhau để đưa ra dự đoán. Ví dụ: một DNN phân loại các hình ảnh như cá (hình minh họa được sử dụng trong nghiên cứu này) có thể sử dụng hình dạng và nền của đối tượng làm tham số đầu vào để dự đoán. Do đó, lộ trình giảm thiểu tổn thất hoạt động ở các chế độ khác nhau về mặt cơ học: một chế độ dựa trên thuộc tính hợp pháp như hình dạng và một chế độ dựa trên thuộc tính không phù hợp như màu nền. Do đó, các chế độ này thiếu kết nối tuyến tính, tức là các đường dẫn đơn giản có tổn hao thấp. Những điều chỉnh ngây thơ về cơ bản không thể thay đổi cơ chế ra quyết định của mô hình. Bởi vì nó đòi hỏi phải di chuyển đến một thung lũng khác trên khung cảnh mất mát. Thay vào đó, các mô hình cần phải được điều khiển vượt qua các rào cản ngăn cách các "chỗ chìm" hoặc "thung lũng" tổn thất thấp. Các tác giả gọi thuật toán sửa đổi này là tinh chỉnh dựa trên kết nối (CBFT). Tiến sĩ Tanaka nói rằng việc điều chỉnh ngây thơ chỉ khám phá các thung lũng; việc thay đổi cơ chế đòi hỏi phải vượt qua các đỉnh cao và đây là những gì CBFT làm. Mục tiêu cuối cùng là DNN, cho dù bạn muốn "phân loại cá" hay "đặt giới hạn tín dụng" hay thứ gì khác, sẽ sử dụng đối tượng thay vì các thuộc tính không liên quan như màu nền hoặc giới tính. Ý tưởng là làm cho nó phụ thuộc vào tính hợp pháp. các thuộc tính như hình dạng của chiếc xe hoặc khả năng trả nợ thực tế của nó. Viện PHI được thành lập với mục đích xem xét lại các mô hình tính toán hiện có và hiện thực hóa những đột phá trong thế giới thực. Viện tập trung vào quang học tuyến tính, tính toán liên quan đến lượng tử và mạng lưới thần kinh. Bài viết này đại diện cho nghiên cứu của Viện PHI về mạng lưới thần kinh, được tiếp cận từ nhiều góc độ. Một ví dụ là một bài báo được trình bày tại hội nghị NeurIPS 2019 đã giúp chúng ta hiểu sâu hơn về mạng lưới thần kinh trong não. Một phiên bản sửa đổi gần đây đã được xuất bản trong ấn bản mới nhất của Neuron, một trong những tạp chí có ảnh hưởng nhất.