Lokasi Anda tidak semua yang ia tahu. Foto AP / Mary Altaffer

Model bisnis Uber sangat sederhana: Ini adalah platform yang memfasilitasi pertukaran antar orang. Dan Uber sudah sangat sukses dalam hal itu, hampir menghilangkan biaya transaksi of melakukan bisnis dalam segala hal dari bolak-balik orang di sekitar kota hingga mengantarkan makanan.

Jika Anda menggunakan Uber - atau mungkin bahkan jika tidak - ia tahu harta karun data tentang Anda, termasuk lokasi Anda, jenis kelamin, riwayat pengeluaran, kontak, tingkat baterai ponsel dan bahkan apakah Anda sedang dalam perjalanan pulang dari stand satu malam. Mungkin segera tahu apakah kamu mabuk atau tidak.

Meskipun itu cukup menakutkan, gabungkan semua data itu dengan Keahlian Uber di menganalisisnya melalui lensa ilmu perilaku dan Anda memiliki potensi berbahaya untuk mengeksploitasi pengguna demi keuntungan.

Uber tidak sendirian. Penelitian kami menunjukkan platform digital terbesar - Airbnb, Facebook, eBay, dan lainnya - mengumpulkan begitu banyak data tentang bagaimana kita hidup, sehingga mereka sudah memiliki kemampuan untuk memanipulasi pengguna mereka dalam skala besar. Mereka dapat memprediksi perilaku dan memengaruhi keputusan kami tentang tempat mengklik, berbagi, dan membelanjakan.

Sementara sebagian besar platform belum menggunakan semua kemampuan ini, manipulasi melalui teknik psikologi perilaku dapat terjadi secara diam-diam dan meninggalkan sedikit jejak. Jika kita tidak menetapkan aturan jalan sekarang, akan jauh lebih sulit untuk dideteksi dan dihentikan nanti.

'Arsitektur pilihan'

Platform dapat berupa ruang apa saja yang memfasilitasi transaksi antara pembeli dan penjual. Contoh tradisional termasuk pasar loak dan lantai perdagangan.

Platform digital memiliki tujuan yang sama tetapi memberikan pemilik kemampuan untuk "menengahi" penggunanya saat mereka menggunakannya - dan seringkali ketika mereka tidak. Maksud kami, ia dapat mengamati dan mempelajari sejumlah besar informasi tentang perilaku pengguna untuk menyempurnakan apa yang oleh para ilmuwan perilaku disebut "arsitektur pilihan, ”Elemen desain yang tidak mencolok dimaksudkan untuk memengaruhi perilaku manusia melalui cara pengambilan keputusan.

Uber tahu kapan baterai ponsel Anda hampir habis. boyhey / Shutterstock.com

Misalnya, Uber telah bereksperimen dengan driver-nya untuk menentukan strategi yang paling efektif untuk menjaga mereka di jalan selama mungkin. Strategi-strategi ini termasuk bermain dalam bias kognitif seperti kebencian pada kerugian dan melebih-lebihkan kejadian-kejadian dengan probabilitas rendah, bahkan jika seorang pengemudi hampir tidak mendapatkan cukup uang untuk membuatnya bernilai sementara dia. Pengemudi berakhir seperti penjudi di kasino, didesak untuk bermain hanya sedikit lebih lama meskipun ada peluang.

Uber tidak segera menanggapi permintaan komentar.

Airbnb juga melakukan percobaan dengan penggunanya. Ini telah menggunakan ilmu perilaku untuk membuat tuan rumah menurunkan tarif mereka dan menerima pemesanan tanpa menyaring tamu - yang menciptakan risiko nyata bagi tuan rumah, terutama ketika mereka berbagi apartemen sendiri.

Sementara contoh-contoh ini nampaknya relatif jinak, mereka menunjukkan bagaimana platform digital dapat dengan tenang merancang sistem untuk mengarahkan tindakan pengguna dengan cara yang berpotensi manipulatif.

Dan ketika platform tumbuh, mereka hanya menjadi arsitek pilihan yang lebih baik. Dengan masuknya IPO yang besar dari uang investor untuk mendanai lebih banyak data dan ilmu perilaku, Uber bisa pindah ke wilayah berbahaya yang tidak etis - mudah dibayangkan mengingat praktik masa lalunya.

Misalnya, jika aplikasi mengakui bahwa Anda mabuk atau berada di lingkungan yang jarang Anda kunjungi - dan yang menunjukkan datanya tinggi dalam kejahatan - aplikasi itu dapat membebani Anda dengan tarif yang lebih tinggi, karena tahu Anda tidak akan menolak.

Tantangan hukum

Dan tidak semua spekulasi.

Dalam upaya menipu penegak hukum yang berusaha menyelidiki perusahaan, sebenarnya Uber menemukan cara untuk mengidentifikasi regulator pemerintah mencoba menggunakan aplikasinya dan mencegah mereka dari mendapatkan wahana.

Itulah salah satu alasan pembuat undang-undang dan regulator telah berdiskusi peran sains dan teknologi perilaku yang sulit dan saling terkait selama bertahun-tahun. Dan beberapa perusahaan, uber khususnya, telah diselidiki untuk sejumlah praktik bisnis yang buruk, dari diskriminasi untuk menyalahgunakan data pengguna.

Tetapi sebagian besar manipulasi yang telah kami identifikasi dan khawatirkan tidak jelas-jelas ilegal. Dan karena regulator sering kali tidak dapat mengimbangi penggunaan teknologi dan arsitektur pilihan yang terus berkembang, itu kemungkinan akan tetap demikian.

Mengingat tidak adanya pagar hukum yang didefinisikan dengan baik dan dapat ditegakkan, kecenderungan perusahaan platform untuk mengeksploitasi ilmu perilaku dengan biaya pengguna sebagian besar akan tetap tidak terkendali.

Kode etik

Salah satu solusi, dalam pandangan kami, adalah membangun kode etik untuk diikuti oleh perusahaan platform. Dan jika mereka tidak mengadopsinya dengan sukarela, investor, karyawan, dan pengguna dapat menuntutnya.

Sejak pertengahan abad 20th, kode etik perilaku tertulis telah menjadi pokok perusahaan AS. Profesi hukum dan medis mengandalkan mereka untuk ribuan tahun. Dan saran penelitian mereka efektif dalam mendorong perilaku etis di perusahaan.

Kami meninjau ratusan kode etik, termasuk yang ditargetkan pada perusahaan teknologi dan komputasi. Berdasarkan penelitian kami, kami mendesak platform digital untuk mengadopsi lima pedoman etika:

1. Semua arsitektur pilihan yang digunakan pada platform harus sepenuhnya transparan. Platform harus diungkapkan ketika mereka menggunakan alat ilmu perilaku untuk mempengaruhi perilaku pengguna

2. Pengguna harus dapat membuat pilihan pada platform secara bebas dan mudah, dan arsitek pilihan harus membatasi intervensi perilaku pada pengingat atau konfirmasi yang paling tidak berbahaya bagi otonomi pengguna.

3. Platform harus menghindari "menyenggol" pengguna dengan cara yang mengeksploitasi pengambilan keputusan yang tidak sadar dan tidak rasional berdasarkan pada dorongan hati dan emosi. Penelitian baru menunjukkan bahwa arsitektur pilihan transparan dapat bekerja dengan baik

4. Platform harus mengenali kekuatan yang mereka miliki dan berhati-hati untuk tidak mengeksploitasi pasar yang mereka buat, termasuk dengan menyalahgunakan asimetri informasi antara mereka dan pengguna atau menentang peraturan yang masuk akal.

5. Platform harus menghindari penggunaan arsitektur pilihan yang mencegah pengguna dari bertindak demi kepentingan terbaik mereka sendiri. Sebagai ekonom perilaku pemenang Hadiah Nobel, Richard Thaler letakkan, kita seharusnya hanya "mendorong untuk kebaikan."

Ilmu teknologi dan perilaku besar sekarang terintegrasi dengan cara yang membuat perusahaan menjadi sangat sukses sikat gigi berdengung itu membuat membersihkan gigimu tampaknya bermanfaat bagi menggunakan teks untuk mendorong ibu yang lebih miskin untuk menggunakan perawatan kesehatan.

Sementara hasilnya dapat secara signifikan meningkatkan kehidupan kita, itu juga membuatnya lebih mudah dari sebelumnya bagi perusahaan untuk memanipulasi pengguna untuk meningkatkan laba mereka.

Tentang Penulis

Abbey Stemler, Asisten Profesor Hukum Bisnis dan Etika, Indiana University; Joshua E. Perry, Associate Professor Hukum Bisnis dan Etika, Indiana University, dan Todd Haugh, Asisten Profesor Hukum Bisnis dan Etika, Indiana University

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait

at Pasar InnerSelf dan Amazon