Mesin pencari sering menyajikan perpaduan informasi dan informasi yang salah. Crispin la valiente / Momen melalui Getty Images, CC BY-ND

Mesin pencari adalah salah satu pintu gerbang utama masyarakat untuk informasi dan orang, tetapi mereka juga saluran untuk informasi yang salah. Mirip dengan algoritma media sosial yang bermasalah, mesin pencari belajar untuk melayani Anda apa yang telah Anda dan orang lain klik sebelumnya. Karena orang tertarik pada sensasi, tarian antara algoritma dan sifat manusia ini dapat mendorong penyebaran informasi yang salah.

Perusahaan mesin pencari, seperti kebanyakan layanan online, menghasilkan uang tidak hanya dengan menjual iklan, tetapi juga dengan melacak pengguna dan menjual data mereka melalui penawaran waktu nyata di atasnya. Orang sering diarahkan ke informasi yang salah karena keinginan mereka akan berita yang sensasional dan menghibur serta informasi yang kontroversial atau menegaskan pandangan mereka. Satu studi menemukan bahwa video YouTube yang lebih populer tentang diabetes adalah kecil kemungkinannya memiliki informasi yang valid secara medis daripada video yang kurang populer tentang subjek tersebut, misalnya.

Mesin pencari yang digerakkan iklan, seperti platform media sosial, dirancang untuk memberi penghargaan pada mengklik tautan yang menarik karena membantu perusahaan pencari meningkatkan metrik bisnis mereka. Sebagai peneliti yang mempelajari sistem pencarian dan rekomendasi, Saya dan kolega saya menunjukkan bahwa kombinasi berbahaya dari motif keuntungan perusahaan dan kerentanan individu ini membuat masalah sulit diperbaiki.

Bagaimana hasil pencarian salah

Saat Anda mengeklik hasil penelusuran, algoritme penelusuran mempelajari bahwa tautan yang Anda klik relevan dengan kueri penelusuran Anda. Ini disebut umpan balik relevansi. Umpan balik ini membantu mesin telusur memberikan bobot yang lebih tinggi ke tautan tersebut untuk kueri itu di masa mendatang. Jika cukup banyak orang mengklik tautan itu cukup sering, sehingga memberikan umpan balik relevansi yang kuat, situs web itu mulai muncul lebih tinggi dalam hasil pencarian untuk itu dan kueri terkait.

Orang-orang lebih cenderung mengklik link yang ditampilkan lebih tinggi di daftar hasil pencarian. Ini menciptakan putaran umpan balik positif - semakin tinggi situs web muncul, semakin banyak klik, dan pada gilirannya membuat situs web itu bergerak lebih tinggi atau membuatnya lebih tinggi. Teknik pengoptimalan mesin pencari menggunakan pengetahuan ini untuk meningkatkan visibilitas situs web.

Ada dua aspek untuk masalah misinformasi ini: bagaimana algoritme penelusuran dievaluasi dan bagaimana manusia bereaksi terhadap tajuk berita, judul, dan cuplikan. Mesin pencari, seperti kebanyakan layanan online, dinilai menggunakan berbagai metrik, salah satunya adalah keterlibatan pengguna. Adalah kepentingan terbaik perusahaan mesin pencari untuk memberi Anda hal-hal yang ingin Anda baca, tonton, atau cukup klik. Oleh karena itu, saat mesin pencari atau sistem rekomendasi apa pun membuat daftar item untuk disajikan, ia menghitung kemungkinan Anda akan mengklik item tersebut.

Secara tradisional, ini dimaksudkan untuk memberikan informasi yang paling relevan. Namun, gagasan relevansi menjadi kabur karena orang telah menggunakan pencarian untuk menemukan hasil pencarian yang menghibur serta informasi yang benar-benar relevan.

Bayangkan Anda sedang mencari tuner piano. Jika seseorang menunjukkan video kucing bermain piano, apakah Anda akan mengkliknya? Banyak yang akan melakukannya, bahkan jika itu tidak ada hubungannya dengan penyetelan piano. Layanan pencarian merasa divalidasi dengan umpan balik relevansi yang positif dan belajar bahwa tidak apa-apa untuk menunjukkan kucing yang sedang bermain piano ketika orang-orang mencari penyetel piano.

Faktanya, ini bahkan lebih baik daripada menampilkan hasil yang relevan dalam banyak kasus. Orang-orang suka menonton video kucing lucu, dan sistem pencarian mendapatkan lebih banyak klik dan keterlibatan pengguna.

Ini mungkin tampak tidak berbahaya. Jadi bagaimana jika orang-orang terganggu dari waktu ke waktu dan mengeklik hasil yang tidak relevan dengan kueri penelusuran? Masalahnya adalah orang tertarik pada gambar yang menarik dan berita utama yang sensasional. Mereka cenderung mengklik teori konspirasi dan berita sensasional, bukan hanya kucing yang bermain piano, dan melakukannya lebih dari sekadar mengklik berita nyata atau informasi yang relevan.

Laba-laba terkenal tapi palsu

Pada tahun 2018, penelusuran untuk "laba-laba mematikan baru" melonjak di Google mengikuti posting Facebook yang mengklaim laba-laba mematikan baru menewaskan beberapa orang di banyak negara bagian. Kolega saya dan saya menganalisis 100 hasil teratas dari penelusuran Google untuk "laba-laba mematikan baru" selama minggu pertama kueri yang sedang tren ini.

Dua halaman pertama hasil pencarian Google untuk 'laba-laba mematikan baru' pada Agustus 2018 (area yang diarsir) terkait dengan postingan berita palsu asli tentang subjek tersebut, bukan menyanggah atau informasi faktual lainnya. Chirag Syah, CC BY-ND

Ternyata cerita ini palsu, tetapi orang-orang yang menelusurinya sebagian besar terpapar informasi yang salah terkait postingan palsu asli. Saat orang-orang terus mengklik dan membagikan informasi yang salah itu, Google terus menampilkan halaman-halaman itu di bagian atas hasil pencarian.

Pola cerita yang mendebarkan dan belum diverifikasi ini muncul dan orang-orang mengekliknya berlanjut, dengan orang-orang yang tampaknya tidak peduli dengan kebenaran atau percaya bahwa jika layanan tepercaya seperti Google Penelusuran menunjukkan cerita ini kepada mereka, maka cerita itu pasti benar. Baru-baru ini, a laporan yang tidak terbukti mengklaim China membiarkan kebocoran virus korona dari laboratorium mendapatkan daya tarik di mesin pencari karena lingkaran setan ini.

Temukan informasi yang salah

Untuk menguji seberapa baik orang membedakan antara informasi yang akurat dan informasi yang salah, kami merancang permainan sederhana yang disebut "Google Atau Tidak. ” Game online ini menampilkan dua rangkaian hasil untuk kueri yang sama. Tujuannya sederhana - pilih set yang dapat diandalkan, dapat dipercaya, atau paling relevan.

Dalam pengujian, sekitar separuh waktu orang tidak dapat membedakan antara hasil penelusuran Google yang berisi informasi yang salah dan yang hanya memiliki hasil yang dapat dipercaya. Chirag Syah, CC BY-ND

Salah satu dari dua rangkaian ini memiliki satu atau dua hasil yang diverifikasi dan diberi label sebagai informasi yang salah atau cerita yang dibantah. Kami membuat game tersedia untuk umum dan diiklankan melalui berbagai saluran media sosial. Secara keseluruhan, kami mengumpulkan 2,100 tanggapan dari lebih dari 30 negara.

Ketika kami menganalisis hasilnya, kami menemukan itu sekitar separuh waktu orang secara keliru memilih set yang dapat dipercaya dengan satu atau dua hasil informasi yang salah. Eksperimen kami dengan ratusan pengguna lain melalui banyak iterasi telah menghasilkan temuan yang serupa. Dengan kata lain, sekitar separuh waktu orang mengambil hasil yang berisi teori konspirasi dan berita palsu. Karena semakin banyak orang memilih hasil yang tidak akurat dan menyesatkan ini, mesin pencari mengetahui bahwa itulah yang diinginkan orang.

Terlepas dari pertanyaan tentang regulasi Big Tech dan swa-regulasi, penting bagi orang-orang untuk memahami bagaimana sistem ini bekerja dan bagaimana mereka menghasilkan uang. Jika tidak, ekonomi pasar dan kecenderungan alami masyarakat untuk tertarik pada tautan yang menarik akan membuat lingkaran setan terus berjalan.

Tentang Penulis

Chirag Shah, Profesor Madya Ilmu Informasi, Universitas Washington

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.