NTT Research (Sunnyvale, California) mengumumkan bahwa para ilmuwan di Institut Fisika dan Informatika (PHI) telah ikut menulis makalah yang mengusulkan cara untuk mengatasi bias dalam jaringan saraf dalam (DNN). DNN adalah jenis AI yang banyak digunakan dalam sains, teknik, bisnis, dan bahkan aplikasi umum, namun terkadang DNN dapat mengandalkan atribut yang tidak tepat sehingga dapat menimbulkan bias. Makalah ini diusulkan oleh Ekdeep Singh Rubana, seorang mahasiswa pascasarjana di Universitas Michigan dan peneliti magang di PHI Institute, Hidenori Tanaka, seorang ilmuwan peneliti di Harvard Brain Science Center, dan tiga ilmuwan lainnya. Kami mengusulkan algoritma baru yang dapat mengatasi hal tersebut keterbatasan penyempurnaan yang naif, metode saat ini untuk mengurangi kesalahan atau "kerugian" di DNN, dan mengurangi ketergantungan model pada atribut yang rawan bias. Meskipun teknologi yang mendukung DNN, khususnya AI generatif, sangat populer, prinsip pengoperasiannya sebagian besar masih belum diketahui. Penulis makalah ini fokus pada lanskap kerugian DNN. Secara khusus, kami mempertimbangkan bagaimana fungsi minimalisasi kerugian yang bergantung pada mekanisme berbeda untuk membuat prediksi terhubung. Misalnya, DNN yang mengklasifikasikan gambar seperti ikan (ilustrasi yang digunakan dalam penelitian ini) dapat menggunakan bentuk dan latar belakang objek sebagai parameter masukan untuk prediksi. Oleh karena itu, jalur minimalisasi kerugian beroperasi dalam mode yang berbeda secara mekanis: jalur yang mengandalkan atribut yang sah seperti bentuk, dan jalur yang mengandalkan atribut yang tidak sesuai seperti warna latar belakang. Oleh karena itu, mode ini tidak memiliki konektivitas linier, yaitu jalur sederhana dengan kerugian rendah. Perubahan yang naif tidak dapat mengubah mekanisme pengambilan keputusan model secara mendasar. Karena itu memerlukan perpindahan ke lembah lain di lanskap yang hilang. Sebaliknya, model harus didorong melintasi hambatan yang memisahkan “tenggelam” atau “lembah” dengan kerugian rendah. Penulis menyebut algoritma modifikasi ini connection-based fine-tuning (CBFT). Dr Tanaka mengatakan bahwa penyesuaian yang naif hanya mengeksplorasi lembah; mengubah mekanisme memerlukan pendakian melewati puncak, dan inilah yang dilakukan CBFT. Tujuan utamanya adalah DNN, apakah Anda ingin "mengklasifikasikan ikan" atau "menetapkan batas kredit" atau yang lainnya, akan menggunakan objek daripada atribut yang tidak relevan seperti warna latar belakang atau jenis kelamin atribut seperti bentuk kendaraan atau kelayakan kredit sebenarnya. PHI Institute didirikan dengan tujuan memikirkan kembali model komputasi yang ada dan mewujudkan terobosan dunia nyata. Institut ini berfokus pada optik linier, komputasi terkait kuantum, dan jaringan saraf. Makalah ini mewakili penelitian PHI Institute tentang jaringan saraf, yang didekati dari beberapa sudut. Salah satu contohnya adalah makalah yang dipresentasikan pada konferensi NeurIPS 2019 yang memperdalam pemahaman mendasar kita tentang jaringan saraf di otak. Versi revisinya baru-baru ini diterbitkan di edisi terbaru Neuron, salah satu jurnal paling berpengaruh.