Perluasan kolaborasi kami dengan UK AI Security Institute (AISI) menandai langkah penting menuju pengembangan kecerdasan buatan yang lebih aman. MoU baru ini akan berfokus pada penelitian keamanan dan keselamatan mendasar, memastikan bahwa kemajuan dalam AI dikembangkan dengan mempertimbangkan keselamatan demi kepentingan semua pihak.

Kemitraan kami dengan AISI merupakan elemen kunci dari upaya kami yang lebih luas dengan pemerintah Inggris untuk mempromosikan pengembangan AI yang aman dan bermanfaat. AI berpotensi memberikan dampak positif pada berbagai sektor, termasuk kedokteran, sains, ekonomi, dan isu lingkungan, tetapi sangat penting bahwa keselamatan dan tanggung jawab tetap menjadi prioritas utama dalam pengembangannya. Kemitraan kami dengan AISI, yang dimulai pada November 2023, akan berfokus pada pengujian model AI canggih dan memberikan pengetahuan tentang risiko AI dan strategi mitigasi kepada berbagai pemangku kepentingan.

Kolaborasi ini akan meluas melampaui pengujian ke penelitian fundamental yang lebih luas di berbagai bidang, termasuk berbagi model dan data milik perusahaan, publikasi bersama temuan penelitian, dan penelitian bersama tentang keamanan dan keselamatan, serta diskusi teknis untuk mengatasi tantangan keselamatan yang kompleks.

Bidang penelitian utama kemitraan ini adalah memantau proses penalaran AI, memahami dampak sosial dan emosional AI, dan menilai dampak AI pada sistem ekonomi. Upaya ini dibangun berdasarkan penelitian Google DeepMind sebelumnya dan kolaborasi dengan AISI dan mitra lainnya. Tujuannya adalah untuk memperdalam pemahaman kita tentang proses pengambilan keputusan sistem AI dan bagaimana proses tersebut selaras dengan kesejahteraan manusia, serta untuk menilai potensi dampak AI terhadap perekonomian.

Kemitraan ini merupakan bagian dari strategi yang lebih luas untuk memaksimalkan manfaat AI sekaligus meminimalkan risikonya. Ini termasuk penelitian yang berwawasan ke depan, pelatihan keselamatan, pengujian model yang ketat, dan pengembangan alat untuk memahami dan mengurangi risiko. Tata kelola internal, seperti Dewan Tanggung Jawab dan Keselamatan Google DeepMind, dan kolaborasi dengan para ahli eksternal sangat penting untuk pengembangan AI yang bertanggung jawab. Partisipasi perusahaan dalam Frontier Model Forum dan AI Partnership semakin menunjukkan komitmennya terhadap pengembangan teknologi AI yang aman dan bertanggung jawab. Kemitraan kami yang diperkuat dengan AISI akan memungkinkan pendekatan keselamatan AI yang lebih kuat, yang tidak hanya menguntungkan organisasi yang terlibat, tetapi juga industri yang lebih luas dan pengguna AI.