Para peneliti di CU Boulder mengungkap kerangka kerja untuk meningkatkan kepercayaan terhadap teknologi AI, dengan menyoroti lima strategi penting. Wawasan ini bertujuan untuk mendorong adopsi sistem AI yang lebih luas.
Seiring dengan peluncuran taksi otonom di seluruh negeri, Universitas Colorado Boulder mempelopori penelitian untuk memastikan sistem kecerdasan buatan dapat dipercaya dan diterima secara luas. Pemimpin inisiatif ini adalah Amir Behzadan, seorang profesor di Departemen Teknik Sipil, Lingkungan, dan Arsitektur, serta peneliti di Institute of Behavioral Science (IBS) di CU Boulder.
Behzadan dan timnya di Laboratorium Penelitian Informatika Terhubung dan Lingkungan Binaan (CIBER) telah menciptakan sebuah kerangka kerja untuk pengembangan alat AI yang memberi manfaat bagi masyarakat.
Dan dalam sebuah makalah baru diterbitkan dalam jurnal AI dan Etika, Behzada dan mahasiswa doktoralnya Armita Dabiri mengandalkan kerangka kerja tersebut untuk merancang alat AI konseptual yang mengintegrasikan elemen-elemen kunci dari kepercayaan.
"Sebagai manusia, ketika Anda membuat diri Anda rentan terhadap potensi bahaya, dengan asumsi orang lain memiliki niat positif, Anda memercayai mereka," ujar Behzadan dalam siaran pers. "Dan sekarang Anda dapat menerapkan konsep tersebut dari hubungan antarmanusia ke hubungan antarmanusia."
Memahami Kepercayaan dalam AI
Behzadan mengeksplorasi bagaimana kepercayaan manusia dapat dibangun ke dalam sistem AI yang digunakan dalam skenario sehari-hari, termasuk mobil tanpa pengemudi, perangkat rumah pintar, dan aplikasi transportasi umum. Kepercayaan merupakan faktor penting dalam adopsi dan ketergantungan pada teknologi-teknologi ini, ujarnya.
Secara historis, kepercayaan telah menjadi fondasi kerja sama manusia dan kemajuan masyarakat, ungkap Behzadan. Dinamika kepercayaan-ketidakpercayaan ini terlihat jelas saat ini dalam sikap kita terhadap AI, terutama ketika perkembangannya tampak tidak transparan atau didorong oleh perusahaan atau pemerintah yang jauh.
Lima Strategi Membangun Kepercayaan pada AI
Para peneliti mengidentifikasi lima elemen kunci yang berkontribusi dalam membuat alat AI lebih dapat dipercaya:
1. Desain Berpusat pada Pengguna
Kepercayaan terhadap AI bervariasi secara individual, dipengaruhi oleh pengalaman pribadi, norma budaya, dan keakraban teknologi.
Behzadan menekankan bahwa memahami karakteristik pengguna target sangat penting untuk merancang AI yang andal. Contohnya termasuk asisten suara yang mengadaptasi antarmuka untuk lansia.
2. Keandalan, Etika dan Transparansi
Sistem AI yang dapat dipercaya harus berfungsi secara konsisten, memastikan keselamatan pengguna, melindungi privasi, dan beroperasi secara transparan.
Behzadan menekankan pentingnya penerapan standar etika dan penghapusan operasi yang bias. Transparansi dalam penggunaan data dan proses pengambilan keputusan meningkatkan kepercayaan pengguna.
3. Kepekaan Konteks
Alat AI mesti disesuaikan dengan konteks spesifik yang dilayaninya.
Dalam studi mereka, Behzadan dan Dabiri mengusulkan alat berbasis AI, “PreservAI,” untuk membantu pemeliharaan kolaboratif bangunan bersejarah dengan mempertimbangkan beragam masukan dan prioritas pemangku kepentingan.
4. Kemudahan Penggunaan dan Mekanisme Umpan Balik
Kegunaan sangat penting untuk kepercayaan. Sistem AI harus melibatkan pengguna secara positif dan menyediakan cara bagi pengguna untuk melaporkan masalah dan memberikan umpan balik.
"Sekalipun Anda memiliki sistem yang paling tepercaya, jika Anda tidak membiarkan orang berinteraksi dengannya, mereka tidak akan memercayainya. Jika hanya sedikit orang yang benar-benar mengujinya, Anda tidak bisa mengharapkan seluruh masyarakat memercayai dan menggunakannya," jelas Behzadan.
5. Kemampuan Beradaptasi untuk Membangun Kembali Kepercayaan
Kepercayaan terhadap AI dapat berfluktuasi. Misalnya, jika taksi tanpa pengemudi terlibat dalam kecelakaan, pengguna mungkin kehilangan kepercayaan.
Namun, peningkatan dan adaptasi teknologi dapat membantu membangun kembali kepercayaan. Behzadan menggambarkan hal ini dengan chatbot Microsoft "Zo", yang mendapatkan kepercayaan melalui desain yang lebih baik setelah kegagalan pendahulunya, "Tay".
Moving Forward
Meskipun sistem AI memang mengandung risiko, membangun kepercayaan yang tepat dapat mendorong perkembangan dan penerimaan masyarakat. Ketika pengguna bersedia berinteraksi dan berbagi data dengan AI, sistem ini menjadi lebih akurat dan bermanfaat.
"Ketika orang-orang cukup memercayai sistem AI untuk membagikan data mereka dan berinteraksi secara bermakna, sistem tersebut dapat meningkat secara signifikan, menjadi lebih akurat, adil, dan bermanfaat," tambah Behzadan. "Kepercayaan bukan sekadar manfaat bagi teknologi; melainkan jalur bagi orang-orang untuk mendapatkan dukungan yang lebih personal dan efektif dari AI sebagai imbalannya."
Sumber: University of Colorado Boulder