Algoritma YouTube Mungkin Meradikalisasi Orang - Tetapi Masalah Sebenarnya Adalah Kita Tidak Tahu Bagaimana Cara Mereka Bekerja

Algoritma YouTube Mungkin Meradikalisasi Orang - Tetapi Masalah Sebenarnya Adalah Kita Tidak Tahu Bagaimana Cara Mereka Bekerja Tuan Pencoba / Shutterstock

Apakah YouTube menciptakan ekstremis? SEBUAH Studi terbaru menyebabkan argumen di antara para ilmuwan dengan berpendapat bahwa algoritma yang mendukung situs tidak membantu meradikalisasi orang dengan merekomendasikan video yang lebih ekstrem, seperti telah disarankan dalam beberapa tahun terakhir.

Makalah ini, diserahkan ke jurnal akses-terbuka, Senin Pertama, tetapi belum ditinjau secara formal, menganalisis rekomendasi video yang diterima oleh berbagai jenis saluran. Ia mengklaim bahwa algoritma YouTube lebih menyukai saluran media arus utama daripada konten independen, menyimpulkan bahwa radikalisasi lebih terkait dengan orang-orang yang membuat konten berbahaya daripada algoritma situs.

Spesialis di bidang itu cepat masuk menanggapi penelitian ini, dengan beberapa kritik metode kertas dan yang lain berpendapat bahwa algoritma itu salah satunya beberapa faktor penting dan ilmu data itu sendiri tidak akan memberi kita jawabannya.

Masalah dengan diskusi ini adalah bahwa kita tidak dapat menjawab pertanyaan tentang apa peran algoritma YouTube dalam meradikalisasi orang karena kita tidak mengerti cara kerjanya. Dan ini hanyalah gejala dari masalah yang jauh lebih luas. Algoritma ini memainkan peran yang semakin meningkat dalam kehidupan kita sehari-hari tetapi tidak memiliki transparansi.

Sulit untuk berpendapat bahwa YouTube tidak berperan dalam radikalisasi. Ini pertama kali ditunjukkan oleh sosiolog teknologi Zeynep Tufekci, yang menggambarkan bagaimana video yang direkomendasikan secara bertahap mendorong pengguna menuju konten yang lebih ekstrim. Dalam kata-kata Tufekci, video tentang jogging mengarah ke video tentang menjalankan ultramarathons, video tentang vaksin mengarah pada teori konspirasi, dan video tentang politik mengarah pada "penolakan Holocaust dan konten mengganggu lainnya".

Ini juga telah ditulis secara terperinci oleh mantan karyawan YouTube Guillaume Chaslot yang bekerja pada algoritma rekomendasi situs. Sejak meninggalkan perusahaan, Chaslot terus berusaha membuat rekomendasi tersebut lebih transparan. Dia mengatakan rekomendasi YouTube cenderung bias teori konspirasi dan video yang sebenarnya tidak akurat, yang bagaimanapun membuat orang menghabiskan lebih banyak waktu di situs.

Bahkan, memaksimalkan waktu menonton adalah inti dari algoritma YouTube, dan ini mendorong pembuat video untuk memperjuangkan perhatian dengan cara apa pun yang dimungkinkan. Perusahaan semata-mata kurangnya transparansi tentang bagaimana tepatnya ini bekerja membuatnya hampir tidak mungkin untuk melawan radikalisasi di situs. Lagi pula, tanpa transparansi, sulit untuk mengetahui apa yang bisa diubah untuk memperbaiki situasi.


Dapatkan Yang Terbaru Dari Diri Sendiri


Algoritma YouTube Mungkin Meradikalisasi Orang - Tetapi Masalah Sebenarnya Adalah Kita Tidak Tahu Bagaimana Cara Mereka Bekerja Cara kerja algoritma YouTube tetap menjadi misteri. Siapakah Danny / Shutterstock

Tapi YouTube tidak biasa dalam hal ini. Kurangnya transparansi tentang cara kerja algoritma biasanya terjadi setiap kali digunakan dalam sistem besar, baik oleh perusahaan swasta atau badan publik. Selain memutuskan video apa yang akan Anda tunjukkan selanjutnya, algoritma pembelajaran mesin sekarang sudah terbiasa Tempatkan anak-anak di sekolah, Memutuskan hukuman penjara, tentukan nilai kredit serta tarif asuransi, serta nasib imigran, kandidat pekerjaan serta pelamar universitas. Dan biasanya kita tidak mengerti bagaimana sistem ini membuat keputusan mereka.

Para peneliti telah menemukan cara kreatif untuk menunjukkan dampak dari algoritma ini pada masyarakat, baik dengan memeriksa Munculnya hak reaksioner atau penyebaran teori konspirasi di YouTube, atau dengan menunjukkan caranya mesin pencari mencerminkan bias rasis dari orang-orang yang membuatnya.

Sistem pembelajaran mesin biasanya besar, kompleks, dan buram. Tepatnya, mereka sering digambarkan sebagai kotak hitam, di mana informasi masuk, dan informasi atau tindakan keluar, tetapi tidak ada yang bisa melihat apa yang terjadi di antaranya. Ini berarti bahwa, karena kita tidak tahu persis bagaimana algoritma seperti sistem rekomendasi YouTube beroperasi, mencoba mencari tahu bagaimana situs bekerja akan seperti mencoba memahami mobil tanpa membuka kap mesin.

Pada gilirannya, ini berarti bahwa mencoba untuk menulis undang-undang untuk mengatur algoritma apa yang seharusnya atau tidak seharusnya dilakukan menjadi proses buta atau coba-coba. Inilah yang terjadi dengan YouTube dan dengan banyak algoritma pembelajaran mesin lainnya. Kami mencoba untuk memiliki suara dalam hasil mereka, tanpa pemahaman nyata tentang bagaimana mereka benar-benar bekerja. Kita perlu membuka teknologi yang dipatenkan ini, atau setidaknya membuatnya cukup transparan sehingga kita bisa mengaturnya.

Penjelasan dan pengujian

Salah satu cara untuk melakukan ini adalah menyediakan algoritma penjelasan kontrafaktual bersama dengan keputusan mereka. Ini berarti menentukan kondisi minimum yang diperlukan untuk algoritma untuk membuat keputusan yang berbeda, tanpa menjelaskan logika lengkapnya. Misalnya, algoritme yang membuat keputusan tentang pinjaman bank mungkin menghasilkan output yang mengatakan bahwa "jika Anda berusia di atas 18 dan tidak memiliki utang sebelumnya, Anda akan menerima pinjaman bank Anda". Tetapi ini mungkin sulit dilakukan dengan YouTube dan situs lain yang menggunakan algoritme rekomendasi, seperti dalam teori video apa pun pada platform dapat direkomendasikan pada titik mana pun.

Alat kuat lainnya adalah pengujian dan audit algoritma, yang telah sangat berguna dalam mendiagnosis algoritma yang bias. Dalam kasus baru-baru ini, sebuah perusahaan penyaringan resume profesional menemukan bahwa algoritma itu memprioritaskan dua faktor sebagai prediktor terbaik kinerja pekerjaan: apakah nama kandidat itu Jared, dan jika mereka bermain lacrosse di sekolah menengah. Inilah yang terjadi ketika mesin tidak diawasi.

Dalam hal ini, algoritme penyaringan resume telah memperhatikan bahwa orang kulit putih memiliki peluang lebih tinggi untuk dipekerjakan, dan telah menemukan karakteristik proxy yang berkorelasi (seperti diberi nama Jared atau bermain lacrosse) yang ada pada kandidat yang disewa. Dengan YouTube, audit algoritma dapat membantu memahami jenis video apa yang diprioritaskan untuk direkomendasikan - dan mungkin membantu menyelesaikan perdebatan tentang apakah rekomendasi YouTube berkontribusi terhadap radikalisasi atau tidak.

Memperkenalkan penjelasan kontrafaktual atau menggunakan audit algoritma adalah proses yang sulit dan mahal. Tapi ini penting, karena alternatifnya lebih buruk. Jika algoritme tidak dicentang dan tidak diregulasi, kita bisa melihat sedikit demi sedikit teori konspirasi dan ekstremis masuk ke media kita, dan perhatian kita dikendalikan oleh siapa pun yang bisa menghasilkan konten yang paling menguntungkan.Percakapan

tentang Penulis

Chico Q. Camargo, Peneliti Pascadoktoral dalam Ilmu Data, University of Oxford

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

ikuti InnerSelf di

facebook-icontwitter-iconrss-icon

Dapatkan Terbaru Dengan Email

{Emailcloak = off}

DARI EDITOR

Blue-Eyes vs Brown Eyes: Bagaimana Rasisme Diajarkan
by Marie T. Russell, InnerSelf
Dalam episode Oprah Show 1992 ini, aktivis dan pendidik anti-rasisme pemenang penghargaan Jane Elliott mengajarkan kepada para peserta pelajaran keras tentang rasisme dengan menunjukkan betapa mudahnya mempelajari prasangka.
Perubahan akan datang...
by Marie T. Russell, InnerSelf
(30 Mei 2020) Sewaktu saya menonton berita tentang peristiwa-peristiwa di Philadephia dan kota-kota lain di negeri ini, hati saya ingin apa yang terjadi. Saya tahu bahwa ini adalah bagian dari perubahan besar yang terjadi ...
Sebuah Lagu Dapat Mengangkat Hati dan Jiwa
by Marie T. Russell, InnerSelf
Saya memiliki beberapa cara yang saya gunakan untuk membersihkan kegelapan dari pikiran saya ketika saya menemukannya telah merayap masuk. Salah satunya adalah berkebun, atau menghabiskan waktu di alam. Yang lainnya adalah diam. Cara lain adalah membaca. Dan satu itu ...
Mengapa Donald Trump Bisa Menjadi Pecundang Terbesar dalam Sejarah
by Robert Jennings, InnerSelf.com
Pandemi coronavirus ini menghabiskan banyak uang, mungkin 2 atau 3 atau 4 keberuntungan, semuanya berukuran tidak diketahui. Oh ya, dan, ratusan ribu, mungkin satu juta, orang akan mati sebelum waktunya sebagai seorang yang langsung ...
Maskot untuk Pandemi dan Lagu Tema untuk Jarak Sosial dan Isolasi
by Marie T. Russell, InnerSelf
Saya menemukan sebuah lagu baru-baru ini dan ketika saya mendengarkan liriknya, saya pikir itu akan menjadi lagu yang sempurna sebagai "lagu tema" untuk saat-saat isolasi sosial ini. (Lirik di bawah video.)