Ahmet Misirligul / Shutterstock

Film pendek Slaughterbots menggambarkan masa depan yang dekat di mana kawanan drone mikro membunuh ribuan orang karena kepercayaan politik mereka. Dirilis pada November 2017 oleh para akademisi dan aktivis yang memperingatkan bahaya kecerdasan buatan tingkat lanjut (AI), virus itu dengan cepat menjadi viral, menarik perhatian pandangan 3m hingga saat ini. Ini membantu memicu debat publik tentang masa depan senjata otonom dan menekan pertemuan diplomat di PBB Konvensi Senjata Konvensional.

Tapi jenis cerita fiksi ilmiah spekulatif ini tidak hanya berguna untuk menarik perhatian. Orang-orang yang merancang dan membangun teknologi canggih dapat menggunakan cerita untuk mempertimbangkan konsekuensi dari pekerjaan mereka dan memastikan itu digunakan untuk kebaikan. Dan kami pikir "prototipe fiksi ilmiah" atau "fiksi desain" semacam ini dapat membantu mencegah bias manusia memasuki teknologi baru, yang semakin memperkuat prasangka dan ketidakadilan masyarakat.

{disematkan Y=9CO6M2HsoIA}

Bias dapat menyebabkan preferensi sewenang-wenang dari beberapa kategori (hasil, orang, atau ide) daripada yang lain. Sebagai contoh, beberapa orang mungkin bias terhadap mempekerjakan perempuan untuk pekerjaan eksekutif, apakah mereka menyadarinya atau tidak.

Teknologi yang dibangun di sekitar data yang merekam bias semacam itu bisa berakhir mereplikasi masalah. Misalnya, perangkat lunak rekrutmen yang dirancang untuk memilih CV terbaik untuk pekerjaan tertentu mungkin diprogram untuk mencari karakteristik yang mencerminkan bias yang tidak disadari terhadap laki-laki. Dalam hal ini, algoritme tersebut pada akhirnya akan mendukung CV pria. Dan ini bukan teori - itu sebenarnya terjadi pada Amazon.

Merancang algoritma tanpa mempertimbangkan kemungkinan implikasi negatif telah dibandingkan kepada dokter "menulis tentang manfaat dari perawatan yang diberikan dan sepenuhnya mengabaikan efek samping, tidak peduli seberapa serius mereka".

Beberapa perusahaan teknologi dan peneliti berusaha untuk mengatasi masalah ini. Misalnya, Google membuat seperangkat prinsip etika untuk memandu pengembangan AI. Dan akademisi Inggris telah meluncurkan inisiatif yang disebut Tidak sama yang bertujuan untuk mendorong keadilan dan keadilan yang lebih besar dalam desain dan penggunaan teknologi.

Masalahnya adalah bahwa, secara publik, perusahaan cenderung hanya memberikan visi positif tentang konsekuensi potensial dari teknologi yang akan datang. Sebagai contoh, mobil tanpa pengemudi sering digambarkan sebagai menyelesaikan semua masalah transportasi kami dari biaya ke keselamatan, mengabaikan peningkatan bahaya serangan siber atau fakta bahwa mereka dapat mendorong orang untuk melakukannya berjalan atau bersepeda kurang.

Kesulitan dalam memahami bagaimana teknologi digital bekerja, terutama yang sangat didorong oleh algoritma yang tidak jelas, juga mempersulit orang untuk memiliki pandangan yang kompleks dan komprehensif tentang masalah tersebut. Situasi ini menghasilkan ketegangan antara narasi positif yang meyakinkan dan kecurigaan yang tidak jelas bahwa bias tertanam pada tingkat tertentu dalam teknologi di sekitar kita. Di sinilah kita bisa mendongeng melalui cerita fiksi desain.

Cerita adalah metode alami untuk berpikir tentang kemungkinan dan situasi yang kompleks, dan kami telah mendengarnya sepanjang hidup kami. Fiksi ilmiah dapat membantu kita berspekulasi tentang dampak teknologi masa depan yang dekat pada masyarakat, seperti yang dilakukan Slaughterbots. Ini bahkan dapat mencakup masalah keadilan sosial, seperti cara kelompok tertentu, seperti pengungsi dan migran Dikecualikan dari inovasi digital.

Mengungkap masa depan (mungkin)

Desain cerita fiksi memberikan cara baru bagi perancang, insinyur dan futuris (antara lain) untuk memikirkan dampak teknologi dari sudut pandang manusia dan menghubungkannya dengan kemungkinan kebutuhan di masa depan. Dengan campuran logika dan imajinasi, desain fiksi dapat mengungkapkan aspek-aspek bagaimana teknologi dapat diadopsi dan digunakan, memulai percakapan tentang hal itu konsekuensi masa depan.

Misalnya, cerpen “Sumber kejahatan”Mengeksplorasi apa yang mungkin terjadi jika AI menggunakan informasi crowdsourced dan basis data kriminal untuk memprediksi siapa yang mungkin melakukan pembunuhan. Para peneliti menemukan bahwa karena database penuh dengan orang-orang dalam kelompok etnis minoritas yang, karena alasan sosial, secara statistik lebih mungkin untuk mengulangi, model "sumber kejahatan" lebih mungkin untuk salah menduga minoritas dari pada orang kulit putih.

Anda tidak harus menjadi penulis yang berbakat atau membuat film yang apik untuk menghasilkan fiksi desain. Kegiatan curah pendapat yang melibatkan kartu dan papan cerita Telah digunakan untuk mengembangkan fiksi desain dan membantu mengembangkan proses mendongeng. Membuat lokakarya yang menggunakan alat-alat semacam ini lebih umum akan memungkinkan lebih banyak insinyur, pengusaha, dan pembuat kebijakan untuk menggunakan metode penilaian ini. Dan membuat karya yang dihasilkan tersedia untuk umum akan membantu untuk mengekspos potensi bias dalam teknologi sebelum mereka mempengaruhi masyarakat.

Mendorong para desainer untuk membuat dan berbagi lebih banyak cerita dengan cara ini akan memastikan narasi yang menopang teknologi baru tidak hanya menyajikan gambar positif, atau yang sangat negatif atau dystopian. Sebaliknya, orang akan dapat menghargai kedua aspek dari apa yang terjadi di sekitar kita.

Tentang Penulis

Alessio Malizia, Profesor Desain Pengalaman Pengguna, University of Hertfordshire dan Silvio Carta, Kepala Seni dan Desain dan Ketua Kelompok Penelitian Desain, University of Hertfordshire

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.