Foto oleh: Norbert Aepli, Switzerland (Pengguna: Noebu)

Di 2016, mobil self-driving menjadi mainstream. Kendaraan otonom Uber menjadi dimanapun di lingkungan tempat saya tinggal di Pittsburgh, dan sebentar di San Francisco. Departemen Perhubungan AS mengeluarkan panduan peraturan baru untuk mereka. Tak terhitung dokumen dan kolom membahas bagaimana mobil self-driving harus memecahkan quandaries etis bila ada yang salah Dan, sayangnya, 2016 juga melihat Kematian pertama yang melibatkan kendaraan otonom.

Teknologi otonom dengan cepat menyebar melampaui sektor transportasi, ke perawatan kesehatan, maju cyberdefense dan bahkan senjata otonom. Di 2017, kita harus memutuskan apakah kita dapat mempercayai teknologi ini. Itu akan jauh lebih sulit dari yang kita duga.

Kepercayaan itu rumit dan beragam, tapi juga bagian penting dari kehidupan kita. Kita sering mempercayai teknologi berdasarkan prediktabilitas: Saya percaya sesuatu jika saya tahu apa yang akan dilakukan dalam situasi tertentu, bahkan jika saya tidak tahu mengapa. Sebagai contoh, saya mempercayai komputer saya karena saya tahu bagaimana fungsinya, termasuk saat akan rusak. Saya berhenti percaya jika mulai berperilaku berbeda atau mengejutkan.

Sebaliknya, kepercayaan saya terhadap istri saya didasarkan pada memahami keyakinan, nilai dan kepribadiannya. Secara umum, kepercayaan interpersonal tidak melibatkan mengetahui dengan pasti apa yang akan dilakukan orang lain - istri saya tentu saja mengejutkan saya! - melainkan mengapa mereka bertindak seperti mereka. Dan tentu saja, kita bisa mempercayai seseorang (atau sesuatu) dalam dua cara, jika kita tahu apa yang akan mereka lakukan dan mengapa.

Saya telah menjelajahi basis yang mungkin untuk kepercayaan kita pada mobil yang mengendarai sendiri dan teknologi otonom lainnya baik dari segi etika maupun psikologis. Ini adalah perangkat, jadi prediktabilitas mungkin tampak seperti kuncinya. Karena otonomi mereka, bagaimanapun, kita perlu mempertimbangkan pentingnya dan nilai - dan tantangan - belajar mempercayai mereka sesuai dengan cara kita mempercayai manusia lain.

Otonomi dan prediktabilitas

Kami menginginkan teknologi kami, termasuk mobil penggerak sendiri, berperilaku dengan cara yang bisa kami prediksi dan harapkan. Tentu saja, sistem ini bisa sangat peka terhadap konteks, termasuk kendaraan lain, pejalan kaki, kondisi cuaca dan sebagainya. Namun, secara umum, kita mungkin mengira bahwa mobil penggerak sendiri yang berulang kali ditempatkan di lingkungan yang sama mungkin juga berperilaku sama setiap saat. Tapi, bagaimana mobil-mobil yang sangat bisa diprediksi ini bisa otonom, bukan hanya otomatis?

Ada menjadi banyak berbeda upaya untuk menetapkan otonomi, tetapi mereka semua memiliki kesamaan ini: Sistem otonom dapat membuat keputusan dan rencana mereka sendiri (substantif), dan dengan demikian dapat bertindak berbeda dari yang diharapkan.

Sebenarnya, salah satu alasan untuk menggunakan otonomi (berbeda dari otomasi) adalah tepat bahwa sistem tersebut dapat mengejar tindakan tindakan yang tidak terduga dan mengejutkan, walaupun dapat dibenarkan. Sebagai contoh, DeepMind's AlphaGo memenangkan game kedua dari seri Go baru-baru ini melawan Lee Sedol sebagian karena sebuah langkah yang tidak akan pernah dilakukan oleh manusia, tapi bagaimanapun juga langkah yang benar. Tapi kejutan yang sama membuat sulit untuk membangun kepercayaan berbasis prediktabilitas. Kepercayaan yang kuat hanya didasarkan pada prediktabilitas dapat dibilang hanya mungkin untuk sistem otomatis atau otomatis, justru karena dapat diprediksi (dengan asumsi fungsi sistem normal).

Merangkul kejutan

Tentu saja, orang lain sering mengejutkan kita, namun kita bisa mempercayai mereka sampai tingkat yang luar biasa, bahkan memberi mereka kekuatan hidup dan mati atas diri kita sendiri. Prajurit mempercayai rekan mereka di lingkungan yang kompleks dan bermusuhan; Seorang pasien mempercayai dokter bedahnya untuk mengeluarkan tumor; dan dengan nada yang lebih biasa, istriku mempercayaiku untuk menyetir dengan aman. Kepercayaan interpersonal ini memungkinkan kita untuk merangkul kejutan, jadi mungkin kita bisa mengembangkan sesuatu seperti kepercayaan interpersonal pada mobil penggerak sendiri?

Secara umum, kepercayaan interpersonal memerlukan pemahaman mengapa seseorang bertindak dengan cara tertentu, bahkan jika Anda tidak dapat memprediksi keputusan yang tepat. Istri saya mungkin tidak tahu persis bagaimana saya akan menyetir, tapi dia tahu jenis penalaran yang saya gunakan saat mengemudi. Dan sebenarnya relatif mudah untuk mengerti mengapa orang lain melakukan sesuatu, justru karena kita semua berpikir dan berpikir secara kasar, meski dengan "bahan mentah" berbeda - keyakinan, keinginan dan pengalaman kita.

Sebenarnya, kita terus-menerus dan tanpa sadar membuat kesimpulan tentang kepercayaan dan keinginan orang lain berdasarkan tindakan mereka, sebagian besar dengan mengasumsikan bahwa mereka berpikir, beralasan dan memutuskan kira-kira seperti kita. Semua kesimpulan dan penalaran berdasarkan kognisi bersama (manusia) ini memungkinkan kita memahami alasan orang lain, dan dengan demikian membangun kepercayaan interpersonal dari waktu ke waktu.

Berpikir seperti orang?

Teknologi otonom - mobil self-driving, khususnya - jangan berpikir dan memutuskan seperti orang. Ada banyak usaha lalu dan baru, untuk mengembangkan sistem komputer yang berpikir dan beralasan seperti manusia. Namun, satu tema mesin pembelajaran yang konsisten selama dua dekade terakhir adalah keuntungan besar yang dibuat tepat dengan tidak memerlukan sistem kecerdasan buatan kita untuk beroperasi dengan cara yang mirip dengan manusia. Sebagai gantinya, algoritme dan sistem pembelajaran mesin seperti AlphaGo sering kali mampu melakukannya mengungguli ahli manusia dengan memusatkan perhatian pada masalah spesifik dan terlokalisasi, dan kemudian memecahkannya secara berbeda dari pada manusia.

Akibatnya, usaha untuk menafsirkan teknologi otonom dalam hal kepercayaan dan keinginan mirip manusia bisa sangat tidak bersahabat. Ketika seorang sopir manusia melihat sebuah bola di jalan, kebanyakan dari kita secara otomatis melambat secara signifikan, untuk menghindari memukul anak yang mungkin mengejarnya. Jika kita mengendarai mobil otonom dan melihat bola menggelinding ke jalan, kita mengharapkan mobil untuk mengenalinya, dan bersiaplah untuk berhenti berlari anak-anak. Mobil mungkin hanya melihat hambatan yang harus dihindari. Jika membelok tanpa melambat, manusia di kapal mungkin khawatir - dan anak kecil mungkin dalam bahaya.

Kesimpulan kami tentang "kepercayaan" dan "keinginan" mobil penggerak diri hampir pasti salah dalam hal-hal penting, justru karena mobil tersebut tidak memiliki keyakinan atau keinginan manusiawi. Kita tidak dapat mengembangkan kepercayaan interpersonal pada mobil penggerak sendiri hanya dengan melihatnya mengemudi, karena kita tidak akan benar menyimpulkan mengapa di balik tindakannya.

Tentu saja, konsumen masyarakat atau pasar dapat bersikeras secara massal bahwa mobil yang mengemudikan mobil memiliki ciri khas manusia (psikologis), justru agar kita bisa memahami dan mengembangkan kepercayaan interpersonal terhadapnya. Strategi ini akan memberi arti baru bagi "desain yang berpusat pada manusia, "Karena sistem akan dirancang secara khusus sehingga tindakan mereka dapat ditafsirkan oleh manusia. Tapi itu juga perlu termasuk novel algoritma dan teknik di dalam mobil penggerak sendiri, yang kesemuanya akan mewakili perubahan besar dari strategi penelitian dan pengembangan saat ini untuk mobil penggerak sendiri dan teknologi otonom lainnya.

Mobil yang mengemudikan diri memiliki potensi untuk secara radikal membentuk kembali infrastruktur transportasi kita dengan berbagai cara, namun hanya jika kita dapat mempercayai mereka cukup untuk benar-benar menggunakannya. Dan ironisnya, fitur yang membuat mobil penggerak sendiri berharga - pengambilan keputusan mereka yang fleksibel dan otonom di berbagai situasi - inilah yang membuat mereka sulit mempercayai mereka.

authirhere

David Danks, Profesor Filsafat dan Psikologi, Carnegie Mellon University

Artikel ini awalnya diterbitkan pada Percakapan. Membaca Artikel asli.

Buku terkait:

at Pasar InnerSelf dan Amazon