Sebuah studi oleh Sekolah Komunikasi Annenberg mengungkap perbedaan substansial di antara model AI, termasuk dari OpenAI, DeepSeek dan Google, dalam mendeteksi ujaran kebencian, yang dapat memiliki implikasi serius bagi moderasi konten dan keamanan komunitas daring.
Kecerdasan buatan telah muncul sebagai pemain kunci dalam memoderasi konten daring, terutama ujaran kebencian, seiring upaya platform untuk mengekang polarisasi politik dan menjaga kesehatan mental. Namun, sebuah studi terbaru dari Annenberg School for Communication di University of Pennsylvania menyoroti isu krusial: evaluasi ujaran kebencian oleh model-model AI terkemuka masih jauh dari konsisten.
"Perusahaan teknologi swasta telah menjadi penentu de facto atas ucapan apa yang diizinkan di ruang publik digital, namun mereka melakukannya tanpa standar yang konsisten," ujar Yphtach Lelkes, profesor madya di Annenberg School for Communication, dalam siaran pers.
Mahasiswa doktoral Lelkes dan Annenberg, Neil Fasching melakukan analisis perbandingan skala besar pertama terhadap sistem moderasi konten AI, memeriksa konsistensi mereka dalam mengevaluasi ujaran kebencian.
Studi mereka, diterbitkan dalam Temuan Asosiasi Linguistik Komputasi, menganalisis tujuh model terkemuka: dua model OpenAI, dua model Mistral, Claude 3.5 Sonnet, DeepSeek V3 dan Google Perspective API.
Para peneliti menganalisis 1.3 juta kalimat sintetis yang mencakup 125 kelompok, menggunakan berbagai istilah, termasuk istilah netral dan kata-kata hinaan, terkait dengan agama, disabilitas, usia, dan banyak lagi.
Poin-Poin Utama dari Studi Ini
1. Keputusan yang Tidak Konsisten di Berbagai Model
"Penelitian menunjukkan bahwa sistem moderasi konten memiliki inkonsistensi yang dramatis ketika mengevaluasi konten ujaran kebencian yang identik, dengan beberapa sistem menandai konten sebagai berbahaya sementara yang lain menganggapnya dapat diterima," ujar Fasching, anggota Kelompok Demokrasi dan Informasi, dalam siaran pers tersebut.
Lelkes, yang juga merupakan salah satu direktur Polarization Research Lab dan Center for Information Networks and Democracy, menambahkan bahwa inkonsistensi ini dapat mengikis kepercayaan publik dan menciptakan persepsi bias. Studi ini menemukan varians dalam konsistensi internal model, yang menyoroti tantangan dalam menyeimbangkan akurasi deteksi dengan menghindari moderasi berlebihan.
2. Ketidakkonsistenan yang Menonjol pada Kelompok Tertentu
“Ketidakkonsistenan ini khususnya terlihat pada kelompok demografi tertentu, sehingga beberapa komunitas lebih rentan terhadap bahaya daring dibandingkan komunitas lainnya,” tambah Fasching.
Penelitian menunjukkan evaluasi ujaran kebencian yang lebih konsisten untuk kelompok berdasarkan orientasi seksual, ras, dan gender, sementara variabilitas meningkat untuk kelompok yang ditentukan oleh tingkat pendidikan, minat pribadi, dan kelas ekonomi.
3. Penanganan Kalimat Netral dan Kalimat Positif yang Berbeda
Patut dicatat, sebagian kecil kalimat bersifat netral atau positif untuk menguji identifikasi palsu atas ujaran kebencian. Sistem seperti Claude 3.5 Sonnet dan klasifikasi konten khusus Mistral memperlakukan semua cercaan sebagai berbahaya, sementara yang lain berfokus pada konteks dan maksud.
Para penulis terkejut dengan pembagian yang jelas dalam cara model mengklasifikasikan kasus-kasus ini, dengan sedikit jalan tengah.
Sumber: Sekolah Komunikasi Annenberg, Universitas Pennsylvania