Kesenjangan Digital Baru Adalah Antara Orang-Orang Yang Memilih Keluar Dari Algoritma Dan Orang-Orang Yang Tidak

Kesenjangan Digital Baru Adalah Antara Orang-Orang Yang Memilih Keluar Dari Algoritma Dan Orang-Orang Yang Tidak Apakah Anda tahu apa yang terjadi ketika Anda membagikan data Anda? mtkang / shutterstock.com

Setiap aspek kehidupan dapat dipandu oleh algoritme kecerdasan buatan - dari memilih rute apa yang akan diambil untuk perjalanan pagi Anda, hingga memutuskan siapa yang akan dibawa kencan, hingga masalah-masalah hukum dan peradilan yang rumit seperti kebijakan prediksi.

Perusahaan teknologi besar seperti Google dan Facebook menggunakan AI untuk mendapatkan wawasan tentang data pelanggan besar mereka yang terperinci. Ini memungkinkan mereka menghasilkan uang dari preferensi kolektif pengguna melalui praktik seperti penargetan mikro, sebuah strategi yang digunakan oleh pengiklan untuk secara sempit menargetkan set pengguna tertentu.

Secara paralel, banyak orang sekarang lebih percaya platform dan algoritma daripada pemerintah mereka sendiri dan masyarakat sipil. Sebuah penelitian 2018 Oktober menunjukkan bahwa orang menunjukkan “apresiasi algoritma, ”Sejauh mereka lebih bergantung pada saran ketika mereka berpikir itu berasal dari suatu algoritma daripada dari manusia.

Di masa lalu, para ahli teknologi khawatir tentang a "Membagi digital" antara mereka yang bisa mengakses komputer dan internet dan mereka yang tidak bisa. Rumah tangga dengan sedikit akses ke teknologi digital berada pada posisi yang kurang menguntungkan dapatkan uang dan kumpulkan keterampilan.

Tapi, saat perangkat digital berkembang biak, kesenjangannya tidak lagi hanya tentang akses. Bagaimana orang menangani kelebihan informasi dan banyaknya keputusan algoritmik yang menembus setiap aspek kehidupan mereka?

Pengguna yang mahir menavigasi jauh dari perangkat dan menjadi sadar tentang bagaimana algoritma mempengaruhi kehidupan mereka. Sementara itu, konsumen yang memiliki informasi lebih sedikit lebih mengandalkan algoritma untuk memandu keputusan mereka.

ketidaksamaan Haruskah Anda tetap terhubung - atau mencabut? pryzmat / shutterstock.com

Saus rahasia di balik kecerdasan buatan

Alasan utama untuk kesenjangan digital baru, menurut pendapat saya sebagai seseorang yang mempelajari sistem informasi, adalah itu sangat sedikit orang yang mengerti bagaimana algoritma bekerja. Untuk sebagian besar pengguna, algoritma dipandang sebagai kotak hitam.

Algoritma AI mengambil data, menyesuaikannya dengan model matematika dan mengeluarkan prediksi, mulai dari lagu apa yang mungkin Anda nikmati untuk berapa tahun seseorang harus menghabiskan waktu di penjara. Model-model ini dikembangkan dan disesuaikan berdasarkan data masa lalu dan keberhasilan model sebelumnya. Kebanyakan orang - bahkan kadang-kadang desainer algoritma sendiri - tidak benar-benar tahu apa yang ada di dalam model.

Peneliti telah lama prihatin tentang keadilan algoritmik. Misalnya, alat rekrutmen berbasis AI Amazon ternyata memberhentikan kandidat perempuan. Sistem Amazon mengekstraksi secara selektif kata-kata yang tersirat berdasarkan gender - kata-kata yang lebih cenderung digunakan pria dalam pembicaraan sehari-hari, seperti "dieksekusi" dan "ditangkap."

Penelitian lainnya telah menunjukkan bahwa algoritma peradilan bias rasial, menghukum terdakwa kulit hitam yang buruk lebih lama dari yang lain.

Sebagai bagian dari Peraturan Perlindungan Data Umum yang baru-baru ini disetujui di Uni Eropa, orang-orang memilikinya “Hak untuk penjelasan” dari kriteria yang digunakan algoritma dalam keputusan mereka. Undang-undang ini memperlakukan proses pengambilan keputusan algoritmik seperti buku resep. Pemikirannya adalah bahwa jika Anda memahami resepnya, Anda dapat memahami bagaimana algoritma memengaruhi hidup Anda.

Sementara itu, beberapa peneliti AI telah mendorong untuk algoritma yang ada adil, akuntabel, dan transparan, sebaik bisa ditafsirkan, artinya mereka harus sampai pada keputusan mereka melalui proses yang dapat dipahami dan dipercaya manusia.

Apa dampak transparansi akan? Di satu studi, siswa dinilai oleh suatu algoritma dan menawarkan tingkat penjelasan yang berbeda tentang bagaimana skor teman sebaya mereka disesuaikan untuk sampai ke nilai akhir. Para siswa dengan penjelasan yang lebih transparan sebenarnya kurang mempercayai algoritma. Ini, sekali lagi, menunjukkan kesenjangan digital: Kesadaran algoritmik tidak mengarah pada kepercayaan lebih pada sistem.

Tetapi transparansi bukanlah obat mujarab. Bahkan ketika keseluruhan proses algoritma dibuat sketsa, detailnya mungkin masih terlalu rumit bagi pengguna untuk memahami. Transparansi hanya akan membantu pengguna yang cukup canggih untuk memahami seluk-beluk algoritma.

Misalnya, di 2014, Ben Bernanke, mantan ketua Federal Reserve, awalnya menolak pembiayaan kembali hipotek dengan sistem otomatis. Kebanyakan orang yang mengajukan permohonan pembiayaan kembali hipotek tidak akan mengerti bagaimana algoritma menentukan kelayakan kredit mereka.

ketidaksamaan Apa yang dikatakan algoritma lakukan hari ini? Maria Savenko / shutterstock.com

Memilih keluar dari ekosistem informasi baru

Meskipun algoritme memengaruhi begitu banyak kehidupan orang, hanya sebagian kecil dari peserta yang cukup canggih untuk terlibat sepenuhnya bagaimana algoritma mempengaruhi kehidupan mereka.

Tidak banyak statistik tentang jumlah orang yang sadar algoritme. Penelitian telah menemukan bukti kecemasan algoritmik, yang mengarah ke ketidakseimbangan kekuatan yang mendalam antara platform yang menggunakan algoritma dan pengguna yang bergantung padanya.

Studi penggunaan Facebook menemukan bahwa ketika para peserta dibuat sadar akan algoritma Facebook untuk mengkuratori feed berita, sekitar 83% partisipan memodifikasi perilaku mereka untuk mencoba mengambil keuntungan dari algoritma tersebut, sementara sekitar 10% mengurangi penggunaan Facebook mereka.

Laporan 2018 November dari Pusat Penelitian Pew menemukan bahwa sebagian besar masyarakat memiliki kekhawatiran signifikan tentang penggunaan algoritma untuk penggunaan tertentu. Ditemukan bahwa 66% berpikir itu tidak adil untuk algoritma untuk menghitung skor keuangan pribadi, sementara 57% mengatakan hal yang sama tentang skrining resume otomatis.

Sebagian kecil individu melakukan kontrol atas bagaimana algoritma menggunakan data pribadi mereka. Sebagai contoh, platform Hu-Manity memungkinkan pengguna pilihan untuk mengontrol berapa banyak data mereka dikumpulkan. Ensiklopedia online Everipedia menawarkan pengguna kemampuan untuk menjadi pemangku kepentingan dalam proses kurasi, yang berarti bahwa pengguna juga dapat mengontrol bagaimana informasi dikumpulkan dan disajikan kepada mereka.

Namun, sebagian besar platform tidak memberikan fleksibilitas seperti itu kepada pengguna akhir mereka atau hak untuk memilih bagaimana algoritma menggunakan preferensi mereka dalam mengatur feed berita mereka atau merekomendasikan konten kepada mereka. Jika ada opsi, pengguna mungkin tidak tahu tentang mereka. Tentang 74% dari pengguna Facebook mengatakan dalam survei bahwa mereka adalah tidak mengetahui bagaimana platform mencirikan kepentingan pribadi mereka.

Dalam pandangan saya, literasi digital yang baru tidak menggunakan komputer atau berada di internet, tetapi memahami dan mengevaluasi konsekuensi dari gaya hidup yang selalu terhubung.

Gaya hidup ini memiliki dampak yang berarti pada bagaimana orang berinteraksi dengan orang lain; pada kemampuan mereka untuk memperhatikan informasi baru; dan terus kompleksitas proses pengambilan keputusan mereka.

Kecemasan algoritmik yang meningkat juga dapat dicerminkan oleh pergeseran paralel dalam perekonomian. Sekelompok kecil individu menangkap keuntungan dari otomatisasi, sementara banyak pekerja berada di a posisi genting.

Memilih keluar dari kurasi algoritmik adalah suatu kemewahan - dan suatu hari nanti bisa menjadi simbol kemakmuran yang tersedia bagi hanya beberapa orang terpilih. Pertanyaannya kemudian adalah apa kerugian terukur bagi mereka yang berada di sisi yang salah dari kesenjangan digital.

Tentang Penulis

Anjana Susarla, Associate Professor Sistem Informasi, Michigan State University

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait

{amazonWS: searchindex = Buku; kata kunci = pembagian digital; maxresult = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

ikuti InnerSelf di

facebook-icontwitter-iconrss-icon

Dapatkan Terbaru Dengan Email

{Emailcloak = off}