Ke mana pun Anda online, seseorang mencoba mempersonalisasi pengalaman web Anda. Preferensi Anda sudah pre-empted, maksud dan motivasi Anda diprediksi. Pemanggang roti yang sempat Anda lalui sekilas tiga bulan yang lalu terus kembali menghantui penjelajahan Anda di ikhtisar iklan yang disesuaikan. Dan itu bukan jalan satu arah. Sebenarnya, mekanika yang cukup impersonal dari beberapa sistem personalisasi mungkin tidak hanya mempengaruhi bagaimana kita melihat dunia, tapi bagaimana kita melihat diri kita sendiri.

Itu terjadi setiap hari, bagi kita semua saat kita sedang online. Berita Facebook Feed upaya untuk menghadirkan konten yang disesuaikan "Sebagian besar kepentingan" pengguna individual Mesin rekomendasi Amazon menggunakan pelacakan data pribadi yang dikombinasikan dengan kebiasaan browsing pengguna lain untuk disarankan produk yang relevan. Google mengkustomisasi hasil pencarian, dan banyak lagi: misalnya, aplikasi personalisasi Google Now berusaha untuk "memberi Anda informasi yang Anda butuhkan sepanjang hari Anda, bahkan sebelum Anda bertanya". Sistem personalisasi semacam itu tidak hanya bertujuan untuk memberikan relevansi kepada pengguna; Melalui strategi pemasaran yang ditargetkan, mereka juga menghasilkan keuntungan untuk banyak layanan web gratis.

Mungkin kritik yang paling terkenal dari proses ini adalah "Bubble filter" teori. Diusulkan oleh aktivis internet Eli Pariser, teori ini menunjukkan bahwa personalisasi dapat secara merugikan mempengaruhi pengalaman pengguna web. Alih-alih terpapar konten universal dan beragam, pengguna secara algoritmik menyampaikan materi yang sesuai dengan sudut pandang yang ada sebelumnya dan menguatkan diri. Oleh karena itu, gelembung filter menimbulkan masalah bagi keterlibatan demokratis: dengan membatasi akses terhadap sudut pandang yang menantang dan beragam, pengguna tidak dapat berpartisipasi dalam debat kolektif dan informasi.

{youtube}6_sim_Wc3mY{/youtube}

Upaya untuk menemukan bukti gelembung filter telah menghasilkan hasil yang beragam. Beberapa penelitian telah menunjukkan bahwa personalisasi memang bisa mengarah pada pandangan "rabun" suatu topik; penelitian lain telah menemukan bahwa dalam konteks yang berbeda, personalisasi sebenarnya dapat membantu pengguna menemukan konten yang umum dan beragam. Penelitian saya menunjukkan bahwa personalisasi tidak hanya mempengaruhi bagaimana kita melihat dunia, tapi bagaimana kita melihat diri kita sendiri. Terlebih lagi, pengaruh personalisasi terhadap identitas kita mungkin bukan karena menyaring gelembung konsumsi, namun karena dalam beberapa kasus, personalisasi online sama sekali tidak "pribadi" sama sekali.

Pelacakan data dan pre-emption pengguna

Untuk memahami hal ini, sangat berguna untuk mempertimbangkan bagaimana personalisasi online tercapai. Meskipun sistem personalisasi melacak gerakan web individual kita, namun sistem ini tidak dirancang untuk "mengenal" atau mengidentifikasi kita sebagai individu. Sebagai gantinya, sistem ini menyusun gerakan dan kebiasaan real-time pengguna menjadi rangkaian data massa, dan mencari pola dan korelasi antara pergerakan pengguna. Pola dan korelasi yang ditemukan saat itu diterjemahkan kembali ke dalam kategori identitas yang bisa kita kenali (seperti usia, jenis kelamin, bahasa dan minat) dan mungkin kita cocok. Dengan mencari pola massa untuk menyampaikan konten yang relevan secara pribadi, personalisasi sebenarnya didasarkan pada proses yang agak impersonal.

Ketika teori bubble filter pertama kali muncul di 2011, Pariser berpendapat bahwa salah satu masalah terbesar dengan personalisasi adalah pengguna tidak mengetahui hal itu terjadi. Saat ini, meski ada keberatan terhadap pelacakan data, banyak pengguna sadar bahwa mereka dilacak sebagai imbalan atas penggunaan layanan gratis, dan pelacakan ini digunakan untuk bentuk personalisasi. Yang jauh lebih jelas, bagaimanapun, adalah spesifik dari apa yang dipersonalisasi untuk kita, bagaimana dan kapan.

Menemukan 'pribadi'

Penelitian saya menunjukkan bahwa beberapa pengguna menganggap pengalaman mereka dipersonalisasi pada derajat yang kompleks. Dalam sebuah penelitian kualitatif mendalam terhadap pengguna web 36, saat melihat iklan untuk produk penurunan berat badan di Facebook, beberapa pengguna wanita melaporkan bahwa mereka menduga bahwa Facebook telah memprofilkannya sebagai kelebihan berat badan atau berorientasi pada kebugaran. Sebenarnya, iklan penurunan berat badan ini disampaikan secara umum kepada wanita berusia 24-30. Namun, karena pengguna tidak dapat mengetahui sifat impersonal dari beberapa sistem personalisasi, iklan bertarget tersebut dapat berdampak buruk terhadap bagaimana pengguna melihat dirinya sendiri: dengan kasar, mereka pasti kelebihan berat badan, karena Facebook mengatakannya demikian.

Bukan hanya iklan bertarget yang dapat memengaruhi hal ini: dalam sebuah studi etnografis dan longitudinal yang dilakukan terhadap segelintir pengguna Google Now 18 dan 19 tahun, saya menemukan bahwa beberapa peserta menganggap aplikasi tersebut mampu melakukan personalisasi ke tingkat yang luar biasa kompleks. . Pengguna melaporkan bahwa mereka percaya bahwa Google Now menunjukkan kepada mereka informasi saham karena Google mengetahui bahwa orang tua mereka adalah pemegang saham, atau bahwa Google (salah) telah melakukan "perjalanan" untuk "bekerja" karena para peserta pernah berbohong tentang usia sekolah di akun YouTube mereka. . Tak perlu dikatakan lagi bahwa penelitian berskala kecil ini tidak mewakili keterlibatan semua pengguna Google Now: namun ini menunjukkan bahwa bagi individu-individu ini, janji prediktif Google Now hampir tidak dapat salah.

Bahkan, kritik dari desain yang berpusat pada pengguna menunjukkan bahwa kenyataan kesimpulan Google jauh lebih impersonal: Google Now mengasumsikan bahwa "Pengguna ideal" - atau setidaknya harus - memiliki ketertarikan pada saham, dan bahwa semua pengguna adalah pekerja yang melakukan perjalanan. Kritik semacam itu menyoroti bahwa asumsi inilah yang sebagian besar menyusun kerangka personalisasi Google (misalnya melalui kepatuhan aplikasi terhadap kategori "kartu" yang telah ditentukan seperti "Olahraga", yang selama studi saya hanya memungkinkan pengguna untuk 'mengikuti' pria daripada klub sepak bola Inggris wanita). Namun, daripada mempertanyakan asumsi aplikasi, penelitian saya menunjukkan bahwa peserta menempatkan diri mereka di luar norma yang diharapkan: mereka mempercayai Google untuk memberi tahu mereka seperti apa pengalaman pribadi mereka nantinya.

Meskipun ini mungkin tampak seperti contoh ekstrem inferensi algoritmik dan asumsi pengguna impersonal, fakta bahwa kita tidak dapat memastikan apa yang dipersonalisasi, kapan atau bagaimana masalah yang lebih umum. Bagi saya, kesaksian pengguna ini menyoroti bahwa penyesuaian konten online memiliki implikasi di luar kenyataan bahwa hal itu mungkin merugikan demokrasi. Mereka menyarankan bahwa kecuali jika kita mulai mengerti bahwa personalisasi kadang dapat beroperasi melalui kerangka kerja yang sangat impersonal, kita mungkin terlalu percaya pada personalisasi untuk memberi tahu kita bagaimana kita harus bersikap, dan siapa kita seharusnya, bukan sebaliknya.

Tentang Penulis

Tanya Kant, Dosen Media dan Budaya, University of Sussex

Artikel ini awalnya diterbitkan pada Percakapan. Membaca Artikel asli.

Buku terkait

at Pasar InnerSelf dan Amazon