Mobil otonom tidak lebih pintar dari ini. X posid

Setiap hari berita utama yang tak terhitung jumlahnya muncul dari berbagai sumber di seluruh dunia, keduanya peringatan konsekuensi yang mengerikan dan menjanjikan masa depan utopia - semua berkat kecerdasan buatan. AI "sedang mengubah tempat kerja," tulis Wall Street Journal, Sementara Nasib Majalah mengatakan kepada kita bahwa kita menghadapi "revolusi AI" yang akan "mengubah hidup kita." Tapi kita tidak benar-benar mengerti apa yang berinteraksi dengan AI akan seperti - atau seperti apa adanya.

Ternyata, kita memiliki konsep yang bisa kita gunakan saat memikirkan AI: Begitulah cara kita memikirkan binatang. Sebagai mantan pelatih hewan (walaupun sebentar) yang sekarang mempelajari bagaimana orang menggunakan AI, saya tahu bahwa pelatihan hewan dan hewan dapat mengajari kita cukup banyak tentang bagaimana kita harus memikirkan, mendekati dan berinteraksi dengan kecerdasan buatan, sekarang dan di dalam masa depan.

Menggunakan analogi binatang Dapat membantu orang awam memahami banyak aspek kompleks kecerdasan buatan. Ini juga dapat membantu kita memikirkan bagaimana cara terbaik untuk mengajarkan sistem ini keterampilan baru dan, mungkin yang terpenting, bagaimana kita dapat memahami keterbatasan mereka dengan benar, bahkan saat kita merayakan kemungkinan baru AI.

Melihat kendala

Sebagai ahli AI Maggie Boden menjelaskan, "Kecerdasan buatan berusaha membuat komputer melakukan hal-hal yang dapat dilakukan pikiran." Periset AI bekerja untuk mengajarkan komputer untuk memikirkan, merasakan, merencanakan, memindahkan dan membuat asosiasi. AI dapat melihat pola dalam kumpulan data yang besar, memprediksi kemungkinan terjadinya suatu peristiwa, merencanakan rute, mengelola jadwal pertemuan seseorang dan bahkan memainkan skenario perang-permainan.

Banyak dari kemampuan ini, dalam dirinya sendiri, tidak mengejutkan: Tentu saja robot bisa berputar mengelilingi ruang dan tidak bertabrakan dengan apapun. Tapi entah bagaimana, AI nampaknya lebih ajaib saat komputer mulai menerapkan keterampilan ini untuk menyelesaikan tugasnya.

Ambil, misalnya, mobil otonom. Asal-usul mobil tanpa sopir ada di proyek Defense Advanced Research Project Agency 1980s yang disebut Kendaraan Tanah Otonom. Tujuan proyek adalah untuk mendorong penelitian tentang visi, persepsi, perencanaan dan kontrol robot komputer. Di 2004, usaha ALV menjadi yang pertama Grand Challenge untuk mobil self-driving. Kini, lebih dari 30 tahun sejak usaha dimulai, kita berada di jurang mobil otonom atau self-driving di pasar sipil. Pada tahun-tahun awal, hanya sedikit orang yang menganggap prestasi seperti itu tidak mungkin: Komputer tidak bisa menyetir!

DARPA Grand Challenge mendorong pengembangan kendaraan otonom.

{youtube}M2AcMnfzpNg{/youtube}

Namun, seperti telah kita lihat, mereka bisa. Kemampuan otonom mobil 'relatif mudah kita pahami. Tapi kita berjuang untuk memahami keterbatasan mereka. Setelah 2015 fatal Tesla crash, di mana fungsi autopilot mobil gagal untuk merasakan traktor-traktor menyeberang ke jalurnya, hanya sedikit yang masih memahami gravitasi betapa terbatasnya autopilot Tesla sebenarnya. Sedangkan perusahaan dan perangkat lunaknya dibersihkan dari kelalaian oleh National Highway Traffic Safety Administration, masih belum jelas apakah pelanggan benar-benar mengerti apa yang bisa dan tidak dapat dilakukan oleh mobil.

Bagaimana jika pemilik Tesla tidak mengatakannya seperti itu Mengendarai versi "beta" dari autopilot melainkan mobil semi otonom dengan kesetaraan mental seekor cacing? Yang disebut "kecerdasan" yang menyediakan "kemampuan self-driving yang lengkap"Benar-benar komputer raksasa yang cukup bagus dalam merasakan objek dan menghindarinya, mengenali barang dalam gambar dan perencanaan yang terbatas. Itu bisa mengubah perspektif pemilik tentang berapa banyak mobil yang bisa dilakukan tanpa masukan atau pengawasan manusia.

Apa itu?

Teknolog sering mencoba untuk menjelaskan AI dalam hal bagaimana hal itu dibangun. Ambil, misalnya, kemajuan yang dilakukan belajar mendalam. Ini adalah teknik yang digunakan jaringan berlapis banyak untuk belajar bagaimana melakukan suatu tugas. Jaringan perlu memproses sejumlah besar informasi. Tetapi karena volume data yang mereka butuhkan, kompleksitas asosiasi dan algoritma di jaringan, seringkali tidak jelas bagi manusia bagaimana mereka mempelajari apa yang mereka lakukan. Sistem ini mungkin menjadi sangat bagus dalam satu tugas tertentu, tapi kita tidak benar-benar memahaminya.

Alih-alih memikirkan AI sebagai sesuatu yang super atau asing, lebih mudah untuk meng analoginya dengan hewan, orang kaya yang tidak memiliki pengetahuan memiliki pelatihan pengalaman.

Misalnya, jika saya menggunakannya penguatan pembelajaran Untuk melatih seekor anjing untuk duduk, saya akan memuji anjing itu dan memberinya makanan saat dia duduk di komando. Seiring waktu, ia akan belajar mengasosiasikan perintah dengan perilaku dengan memperlakukan.

Mengajar anjing untuk duduk sangat mirip dengan pelatihan kecerdasan buatan.

{youtube}5-MA-rGbt9k{/youtube}

Pelatihan sistem AI bisa sangat berbeda. Di penguatan pembelajaran mendalam, perancang manusia membuat sebuah sistem, membayangkan apa yang mereka inginkan untuk dipelajari, memberikan informasi, melihat tindakannya dan memberikan umpan balik (seperti pujian) saat mereka melihat apa yang mereka inginkan. Intinya, kita bisa mengobati sistem AI seperti kita memperlakukan hewan yang sedang kita latih.

Analogi juga bekerja pada tingkat yang lebih dalam. Saya tidak mengharapkan anjing yang duduk untuk memahami konsep kompleks seperti "cinta" atau "baik." Saya mengharapkan dia untuk belajar sebuah perilaku. Sama seperti kita bisa membawa anjing untuk duduk, tetap dan berguling, kita bisa mendapatkan sistem AI untuk memindahkan mobil di sekitar jalan umum. Tapi terlalu banyak mengharapkan mobil itu untuk "memecahkan" Masalah etika yang bisa timbul dalam mengemudikan keadaan darurat.

Membantu peneliti juga

Pemikiran AI sebagai hewan yang dapat dilatih tidak hanya berguna untuk menjelaskannya kepada masyarakat umum. Hal ini juga membantu para peneliti dan insinyur membangun teknologinya. Jika seorang sarjana AI mencoba mengajarkan sebuah sistem keterampilan baru, memikirkan proses dari perspektif pelatih hewan dapat membantu mengidentifikasi masalah atau komplikasi potensial.

Misalnya, jika saya mencoba melatih anjing saya untuk duduk, dan setiap kali saya mengatakan "duduk" bel menuju oven berbunyi, maka anjing saya akan mulai mengasosiasikan duduk tidak hanya dengan perintah saya, tapi juga dengan suara si bel oven Intinya, bel menjadi sinyal lain yang menyuruh anjing duduk, yang disebut "penguatan tidak disengaja." Jika kita mencari bala bantuan atau sinyal kebetulan dalam sistem AI yang tidak berfungsi dengan baik, maka kita akan tahu lebih baik tidak hanya apa yang terjadi. salah, tapi juga latihan ulang spesifik apa yang paling efektif.

Hal ini mengharuskan kita untuk memahami pesan apa yang kita berikan selama pelatihan AI, dan juga apa yang AI mungkin amati di lingkungan sekitar. Bel oven adalah contoh sederhana; Di dunia nyata akan jauh lebih rumit.

Sebelum kita menyambut tuan tanah AI kita dan menyerahkan hidup dan pekerjaan kita kepada robot, kita harus berhenti sejenak dan memikirkan jenis kecerdasan yang kita ciptakan. Mereka akan sangat baik dalam melakukan tindakan atau tugas tertentu, tapi mereka tidak dapat memahami konsep, dan tidak tahu apa-apa. Jadi saat kamu sedang berpikir menembaki ribuan orang Untuk mobil Tesla yang baru, ingat fungsi autopilotnya benar-benar hanya cacing yang sangat cepat dan seksi. Apakah Anda benar-benar ingin memberikan kontrol atas hidup dan kehidupan orang-orang yang Anda cintai kepada seekor cacing? Mungkin tidak, jadi jaga tangan Anda tetap pada kemudi dan jangan tertidur.

Tentang Penulis

Heather Roff, Peneliti Senior, Departemen Politik & Hubungan Internasional, Universitas Oxford; Ilmuwan Riset, Inisiatif Keamanan Global, Arizona State University

Artikel ini awalnya diterbitkan pada Percakapan. Membaca Artikel asli.

Buku terkait

at Pasar InnerSelf dan Amazon