Penelitian baru dari Universitas Negeri Ohio menunjukkan bahwa algoritma yang dipersonalisasi, yang lazim di media sosial, dapat mempersempit fokus pengguna, yang menyebabkan menurunnya pembelajaran dan meningkatnya rasa percaya diri yang berlebihan terhadap informasi yang salah.
Algoritma yang dipersonalisasi, yang menyusun konten daring berdasarkan pilihan pengguna sebelumnya di platform seperti YouTube, dapat menghambat pembelajaran dan menciptakan persepsi realitas yang menyimpang, menurut penelitian baru dari Universitas Negeri Ohio.
Diterbitkan Dalam Journal of Experimental Psychology: General, studi tersebut menemukan bahwa ketika sebuah algoritma mengendalikan informasi yang ditunjukkan kepada partisipan yang mempelajari topik baru, fokus mereka menyempit ke sebagian kecil informasi yang tersedia. Akibatnya, partisipan ini sering menjawab pertanyaan secara tidak akurat tetapi menunjukkan keyakinan tinggi terhadap jawaban mereka yang salah.
Temuan ini mengkhawatirkan, menurut Giwon Bahg, yang memimpin penelitian tersebut sebagai bagian dari disertasi doktoralnya di bidang psikologi.
Banyak penelitian tentang algoritma yang dipersonalisasi mengeksplorasi dampaknya dalam membentuk opini tentang isu-isu politik atau sosial yang familiar.
"Namun, studi kami menunjukkan bahwa bahkan ketika Anda tidak tahu apa pun tentang suatu topik, algoritma ini dapat langsung mulai membangun bias dan dapat mengarah pada pandangan realitas yang menyimpang," ujar Bahg, yang kini menjadi peneliti pascadoktoral di Pennsylvania State University, dalam siaran pers.
Temuan tersebut menunjukkan bahwa banyak orang dapat dengan mudah menggunakan informasi terbatas yang disediakan oleh algoritma yang dipersonalisasi untuk membentuk kesimpulan yang luas dan menyeluruh, menurut rekan penulis Brandon Turner, seorang profesor psikologi di Ohio State.
"Orang-orang kehilangan informasi ketika mereka mengikuti suatu algoritma, tetapi mereka berpikir apa yang mereka ketahui dapat digeneralisasi ke fitur dan bagian lain dari lingkungan yang belum pernah mereka alami," kata Turner dalam siaran pers tersebut.
Sebagai ilustrasi, studi ini memberikan skenario hipotetis: Seseorang yang tidak familiar dengan film dari suatu negara tertentu menggunakan rekomendasi algoritmik layanan streaming. Awalnya memilih film aksi-thriller, algoritma tersebut kemudian menyarankan lebih banyak film dengan genre yang sama, menyebabkan penonton mengembangkan pemahaman yang terbatas dan bias tentang industri film dan budaya negara tersebut secara lebih luas.
Para peneliti menguji efek ini menggunakan pengaturan eksperimen fiktif dengan 346 peserta, yang diminta untuk mempelajari kategori alien mirip kristal dengan mengambil sampel fitur yang berbeda.
Peserta memiliki dua kondisi: satu melibatkan pengambilan sampel acak semua fitur, dan yang lainnya di mana algoritma personalisasi memilih fitur untuk diprioritaskan.
Hasilnya menunjukkan bahwa peserta yang mengandalkan algoritma mengambil sampel fitur yang lebih sedikit dan selektif, serta terlalu percaya diri dengan kategorisasi mereka yang terbatas dan sering kali salah.
“Mereka bahkan lebih percaya diri ketika mereka benar-benar salah mengenai pilihan mereka dibandingkan ketika mereka benar, yang mana mengkhawatirkan karena mereka memiliki pengetahuan yang lebih sedikit,” tambah Bahg.
Turner menunjuk pada konsekuensi sosial yang mungkin terjadi, khususnya bagi pelajar muda.
"Jika Anda memiliki anak kecil yang sungguh-sungguh ingin belajar tentang dunia, dan mereka berinteraksi dengan algoritma daring yang memprioritaskan pengguna untuk mengonsumsi lebih banyak konten, apa yang akan terjadi?" tambah Turner. "Mengonsumsi konten serupa seringkali tidak sejalan dengan pembelajaran. Hal ini dapat menimbulkan masalah bagi pengguna dan pada akhirnya bagi masyarakat."
Sumber: The Ohio State University