Dapatkah Teknologi Menyelamatkan Kami Dari Kesalahan Informasi Pada Media Sosial?

Jika Anda mendapatkan berita Anda dari media sosial, seperti kebanyakan orang Amerika melakukannya, Anda terkena dosis hoax, rumor, teori persekongkolan dan berita yang menyesatkan setiap hari. Bila semuanya dicampur dengan informasi terpercaya dari sumber yang jujur, kebenaran bisa sangat sulit untuk dipahami.

Faktanya, analisis data tim peneliti saya dari Universitas Columbia Muncul Pelacak rumor menunjukkan hal ini informasi salah kemungkinan akan terinfeksi virus sebagai informasi yang andal.

Banyak yang bertanya apakah ini gencarnya kesalahan informasi digital mempengaruhi hasilnya dari pemilihan 2016 AS. Yang benar adalah kita tidak tahu, walaupun ada alasan untuk percaya bahwa itu sepenuhnya mungkin, berdasarkan analisis masa lalu dan akun dari negara lain. Setiap salah informasi memberi kontribusi pada pembentukan opini kita. Secara keseluruhan, kerugiannya bisa sangat nyata.

Sebagai peneliti penyebaran informasi yang keliru melalui media sosial, saya tahu bahwa membatasi kemampuan pembuat berita untuk menjual iklan, seperti yang baru-baru ini diumumkan oleh Google dan Facebook, adalah langkah ke arah yang benar. Tapi itu tidak akan menghentikan pelanggaran yang didorong oleh motif politik.

Pemanfaatan media sosial

Tentang 10 bertahun-tahun yang lalu, rekan-rekan saya dan saya berlari eksperimen di mana kami mempelajari 72 persen mahasiswi link terpercaya yang nampaknya berasal dari teman - bahkan sampai memasuki informasi masuk pribadi di situs phishing. Kerentanan yang meluas ini menyarankan bentuk manipulasi berbahaya lainnya: Orang mungkin juga mempercayai informasi salah yang mereka terima saat mengeklik tautan dari kontak sosial.

Untuk mengeksplorasi ide itu, saya menciptakan sebuah halaman web palsu dengan berita gosip komputer yang dihasilkan secara acak - hal-hal seperti "Selebriti X tertangkap di ranjang bersama Selebriti Y!" Pengunjung ke situs yang mencari nama akan memicu naskah untuk membuat cerita tentang orang tersebut secara otomatis. Saya menyertakan situs ini sebagai sanggahan, dengan mengatakan bahwa situs tersebut berisi teks dan fakta yang tidak berarti. "Saya juga menempatkan iklan di halaman. Pada akhir bulan, saya mendapat cek melalui pos dengan penghasilan dari iklan. Itu adalah bukti saya: Berita palsu bisa menghasilkan uang dengan mencemari internet dengan kepalsuan.


grafis berlangganan batin


Sayangnya, saya bukan satu-satunya yang memiliki ide ini. Sepuluh tahun kemudian, kita punya industri berita palsu dan informasi yang salah secara digital. Situs clickbait memproduksi tipuan untuk menghasilkan uang dari iklan, sementara situs hyperpartisan menerbitkan dan menyebarkan rumor dan teori konspirasi untuk mempengaruhi opini publik.

Industri ini didukung oleh betapa mudahnya menciptakan bot sosial, akun palsu dikendalikan oleh perangkat lunak yang terlihat seperti orang sungguhan dan oleh karena itu dapat memiliki pengaruh yang nyata. Penelitian di laboratorium menemukan banyak contoh kampanye akar rumput palsu, juga disebut astroturfing politik.

Sebagai tanggapan, kami mengembangkan BotOrNot alat untuk mendeteksi bot sosial. Itu tidak sempurna, tapi cukup akurat untuk mengungkap kampanye persuasi dalam gerakan Brexit dan antivax. Dengan menggunakan BotOrNot, rekan kami menemukan bahwa a Sebagian besar obrolan online tentang pemilihan 2016 dihasilkan oleh bot.

Membuat gelembung informasi

Kita manusia rentan terhadap manipulasi oleh kesalahan informasi digital berkat serangkaian kompleks sosial, kognitif, ekonomi dan bias algoritmik. Beberapa di antaranya telah berevolusi dengan alasan yang bagus: Mempercayai sinyal dari lingkaran sosial kita dan menolak informasi yang bertentangan dengan pengalaman kita melayani kita dengan baik saat spesies kita beradaptasi untuk menghindari predator. Tapi di jaringan online yang menyusut hari ini, koneksi jaringan sosial dengan teori konspirasi di sisi lain planet ini tidak membantu memberi tahu pendapat saya.

Menyalin teman-teman kita dan berhenti mengikuti mereka dengan pendapat berbeda memberi kita ruang gema terpolarisasi yang bisa diceritakan oleh peneliti dengan akurasi tinggi liberal atau konservatif dengan hanya melihat temanmu Struktur jaringannya begitu padat bahwa informasi salah menyebar hampir seketika dalam satu kelompok, dan begitu terpisah sehingga tidak mencapai yang lain.

Di dalam gelembung kami, kami secara selektif terpapar informasi yang sesuai dengan keyakinan kami. Itu adalah skenario ideal untuk memaksimalkan keterlibatan, tapi yang merugikan untuk mengembangkan skeptisisme yang sehat. Bias Konfirmasi membawa kita untuk berbagi judul bahkan tanpa membaca artikel.

Lab kami mendapat pelajaran pribadi saat proyek penelitian kami menjadi topik a kampanye misinformasi yang buruk menjelang pemilihan paruh waktu 2014 AS. Ketika kami menyelidiki apa yang terjadi, kami menemukan berita palsu tentang penelitian kami yang sebagian besar dimiliki oleh pengguna Twitter dalam satu ruang gema partisan, sebuah komunitas pengguna aktif yang besar dan homogen. Orang-orang ini cepat retweet dan tahan untuk membongkar informasi.

Keniscayaan virus

Penelitian kami menunjukkan bahwa mengingat struktur jaringan sosial kami dan perhatian kami terbatas, memang begitu Tak terelakkan bahwa beberapa meme akan menjadi virus, terlepas dari kualitasnya. Bahkan jika individu cenderung berbagi informasi dengan kualitas lebih tinggi, jaringan secara keseluruhan tidak efektif dalam membedakan informasi yang dapat dipercaya dan dibuat-buat. Ini membantu menjelaskan semua kebekuan virus yang kita amati di alam bebas.

Grafik perhatian ekonomi selesaikan sisanya: Jika kita memperhatikan topik tertentu, informasi lebih lanjut tentang topik itu akan diproduksi. Lebih murah untuk membuat informasi dan menyebarkannya sebagai fakta daripada melaporkan kebenaran sebenarnya. Dan fabrikasi dapat disesuaikan dengan masing-masing kelompok: Konservatif membaca bahwa paus mendukung Trump, kaum liberal membaca bahwa dia mendukung Clinton. Dia tidak melakukan keduanya.

Lihatlah algoritma

Karena kita tidak bisa memperhatikan semua posting di feed kita, algoritma menentukan apa yang kita lihat dan apa yang tidak kita lakukan. Algoritma yang digunakan oleh platform media sosial saat ini dirancang untuk memprioritaskan tulisan yang menarik - yang cenderung kami klik, bereaksi dan berbagi. Namun, analisis baru-baru ini menemukan halaman yang benar-benar menyesatkan setidaknya sharing online sebanyak-banyaknya dan reaksi sebagai berita nyata.

Bias algoritme ini terhadap keterlibatan atas kebenaran memperkuat bias sosial dan kognitif kita. Akibatnya, ketika kita mengikuti link yang dibagikan di media sosial, kita cenderung mengunjungi yang lebih kecil, lebih homogen kumpulan sumber daripada saat kita melakukan pencarian dan mengunjungi hasil teratas.

Penelitian yang ada menunjukkan bahwa berada di ruang gema bisa membuat manusia lebih mudah tertipu tentang menerima rumor yang tidak terverifikasi. Tapi kita perlu tahu lebih banyak tentang bagaimana orang yang berbeda merespons tipuan tunggal: Sebagian membagikannya dengan benar, fakta lain-periksa dulu.

Kita mensimulasikan jaringan sosial untuk mempelajari kompetisi antara sharing dan pengecekan fakta ini. Kami berharap bisa membantu melepaskan bukti yang bertentangan ketika pemeriksaan fakta membantu menghentikan tipuan dari penyebaran dan kapan tidak. Hasil awal kami menunjukkan bahwa semakin memisahkan komunitas orang beriman tipuan, semakin lama tipuan bertahan. Sekali lagi, ini bukan hanya tentang tipuan itu sendiri tapi juga tentang jaringan.

Banyak orang yang mencoba untuk mencari tahu apa yang harus dilakukan tentang semua ini. Menurut Mark Zuckerberg terbaru pengumuman, Tim Facebook sedang menguji opsi potensial. Dan sekelompok mahasiswa mengajukan sebuah cara sederhana label link bersama sebagai "diverifikasi" atau tidak.

Beberapa solusi tetap di luar jangkauan, setidaknya untuk saat ini. Misalnya, kita belum bisa mengajarkan sistem kecerdasan buatan bagaimana caranya membedakan antara kebenaran dan kepalsuan. Tapi kami bisa memberi tahu algoritma peringkat untuk memberi prioritas lebih tinggi pada sumber yang lebih andal.

Mempelajari penyebaran berita palsu

Kita dapat membuat pertarungan melawan berita palsu lebih efisien jika kita lebih memahami bagaimana penyebaran informasi yang buruk. Jika, misalnya, bot bertanggung jawab atas banyak kebohongan, kita dapat memusatkan perhatian pada pendeteksiannya. Jika, masalahnya, masalahnya adalah dengan ruang gema, mungkin kita bisa merancang sistem rekomendasi yang tidak mengecualikan pandangan yang berbeda.

Untuk itu, laboratorium kami sedang membangun sebuah platform bernama Hoaxy untuk melacak dan memvisualisasikan penyebaran klaim yang belum diverifikasi dan pemeriksaan fakta yang sesuai pada media sosial. Itu akan memberi kita data dunia nyata, yang dengannya kita dapat menginformasikan jaringan sosial simulasi kita. Kemudian kita bisa menguji kemungkinan pendekatan untuk melawan berita palsu.

Hoaxy mungkin juga dapat menunjukkan kepada orang-orang betapa mudahnya pendapat mereka dimanipulasi oleh informasi online - dan bahkan seberapa besar kemungkinan sebagian dari kita untuk berbagi kebohongan secara online. Hoaxy akan bergabung dengan rangkaian alat di perusahaan kami Observatorium di Media Sosial, yang memungkinkan siapa saja melihat bagaimana meme menyebar di Twitter. Menghubungkan alat seperti ini ke pemeriksa fakta dan platform media sosial bisa mempermudah penggandaan usaha mendukung satu sama lain.

Sangat penting bahwa kita menginvestasikan sumber daya dalam mempelajari fenomena ini. Kami membutuhkan semua tangan di dek: Ilmuwan komputer, ilmuwan sosial, ekonom, wartawan dan mitra industri harus melakukannya bekerja sama untuk berdiri teguh melawan penyebaran informasi yang keliru.

Percakapan

Tentang Penulis

Filippo Menczer, Guru Besar Ilmu Komputer dan Informatika; Direktur Pusat Jaringan Kompleks dan Riset Sistem, Indiana University, Bloomington

Artikel ini awalnya diterbitkan pada Percakapan. Membaca Artikel asli.

Buku terkait:

at Pasar InnerSelf dan Amazon