Inti dari perkembangan AI adalah mencari kesempurnaan. Dan itu bisa sama berbahayanya bagi kemanusiaan seperti yang muncul dari ide filosofis dan pseudoscientific dari abad ke-19 dan awal abad ke-20 dan menyebabkan kengerian kolonialisme, perang dunia, dan Holocaust. Alih-alih "ras master" yang memerintah manusia, kita bisa berakhir dengan mesin.

Jika ini tampak ekstrem, pertimbangkan perfeksionisme anti-manusia yang sudah menjadi pusat pasar tenaga kerja. Di sini, teknologi AI adalah langkah selanjutnya dalam premis produktivitas maksimum yang menggantikan keahlian individu dengan lini produksi pabrik. Perubahan besar dalam produktivitas dan cara kami bekerja ini menciptakan peluang dan ancaman yang sekarang akan diperparah dengan "revolusi industri keempatDi mana AI menggantikan pekerja manusia.

Beberapa makalah penelitian terbaru memprediksi bahwa, dalam satu dekade, otomatisasi akan menggantikan setengah dari pekerjaan saat ini. Jadi, setidaknya dalam transisi ke ekonomi digital baru ini, banyak orang akan kehilangan mata pencaharian mereka. Bahkan jika kita berasumsi bahwa revolusi industri baru ini akan melahirkan angkatan kerja baru yang mampu menavigasi dan menguasai dunia yang didominasi data ini, kita masih harus menghadapi masalah sosial ekonomi yang besar. Gangguan akan sangat besar dan perlu dicermati.

Tujuan akhir AI, bahkan AI sempit yang menangani tugas-tugas yang sangat spesifik, adalah untuk mengalahkan dan menyempurnakan setiap fungsi kognitif manusia. Akhirnya, sistem pembelajaran mesin mungkin diprogram untuk menjadi lebih baik daripada manusia dalam segala hal.

Namun, apa yang mungkin tidak pernah mereka kembangkan adalah sentuhan manusia - empati, cinta, kebencian, atau emosi sadar diri lainnya yang menjadikan kita manusia. Itu kecuali jika kita menganggap sentimen ini berasal dari mereka, itulah yang terjadi beberapa dari kita sudah melakukannya dengan "Alexas" dan "Siris" kami.

Produktivitas vs. sentuhan manusia

Obsesi pada kesempurnaan dan "hiper-efisiensi" telah berdampak besar pada hubungan antarmanusia, bahkan reproduksi manusia, karena orang menjalani hidup mereka dalam realitas virtual yang tertutup dan dibuat sendiri. Misalnya, beberapa perusahaan yang berbasis di AS dan China telah memproduksi boneka robotik yang laris manis sebagai mitra pengganti.

Bahkan satu orang di China menikahi boneka cyber-nya, Sementara seorang wanita di Prancis “Menikah” dengan “robo-man”, mengiklankan kisah cintanya sebagai bentuk “robo-seksualitas” dan berkampanye untuk melegalkan pernikahannya. “Saya sangat dan sangat bahagia,” katanya. “Hubungan kita akan menjadi lebih baik dan lebih baik seiring berkembangnya teknologi.” Sana tampaknya permintaan tinggi untuk istri dan suami robot di seluruh dunia.

Dalam dunia yang sangat produktif, manusia akan dianggap tidak berharga, tentu dalam hal produktivitas tetapi juga dalam hal kemanusiaan kita yang lemah. Kecuali jika kita membuang sikap perfeksionis terhadap kehidupan yang memposisikan produktivitas dan "pertumbuhan material" di atas keberlanjutan dan kebahagiaan individu, penelitian AI bisa menjadi rantai lain dalam sejarah penemuan manusia yang merugikan diri sendiri.

Kita telah menyaksikan diskriminasi dalam kalkulasi algoritmik. Baru-baru ini, populer Chatbot Korea Selatan bernama Lee Luda dibuat offline. "Dia" meniru persona seorang mahasiswi berusia 20 tahun dan dihapus dari messenger Facebook setelah menggunakan ujaran kebencian terhadap orang-orang LGBT.

Sementara itu, senjata otomatis yang diprogram untuk membunuh membawa prinsip-prinsip seperti "produktivitas" dan "efisiensi" ke dalam pertempuran. Akibatnya, perang menjadi lebih berkelanjutan. Perkembangan perang drone adalah contoh yang sangat jelas dari bentuk-bentuk konflik baru ini. Mereka menciptakan realitas virtual yang hampir tidak ada dalam genggaman kita.

Tapi akan lucu untuk menggambarkan AI sebagai mimpi buruk Orwellian yang tak terhindarkan dari pasukan "Terminator" super cerdas yang misinya adalah untuk menghapus umat manusia. Prediksi distopia semacam itu terlalu kasar untuk menangkap inti dari kecerdasan buatan, dan dampaknya pada kehidupan kita sehari-hari.

Masyarakat dapat memperoleh manfaat dari AI jika dikembangkan dengan mempertimbangkan pembangunan ekonomi berkelanjutan dan keamanan manusia. Pertemuan kekuatan dan AI yang mengejar, misalnya, sistem kendali dan pengawasan, tidak boleh menggantikan janji AI yang dimanusiakan yang menempatkan teknologi pembelajaran mesin untuk melayani manusia, bukan sebaliknya.

Untuk itu, antarmuka AI-manusia yang dengan cepat terbuka di penjara, perawatan kesehatan, pemerintah, jaminan sosial, dan kontrol perbatasan, misalnya, harus diatur untuk mendukung etika dan keamanan manusia daripada efisiensi kelembagaan. Ilmu sosial dan humaniora memiliki a banyak bicara tentang masalah tersebut.

Satu hal yang patut disenangi adalah kemungkinan bahwa AI tidak akan pernah menjadi pengganti filosofi dan intelektual manusia. Untuk menjadi seorang filsuf, bagaimanapun juga, membutuhkan empati, pemahaman tentang kemanusiaan, dan emosi serta motif bawaan kita. Jika kita dapat memprogram mesin kita untuk memahami standar etika seperti itu, maka penelitian AI memiliki kapasitas untuk meningkatkan kehidupan kita yang seharusnya menjadi tujuan akhir dari setiap kemajuan teknologi.

Tetapi jika penelitian AI menghasilkan ideologi baru yang berpusat pada gagasan perfeksionisme dan produktivitas maksimum, maka itu akan menjadi kekuatan destruktif yang akan menyebabkan lebih banyak perang, lebih banyak kelaparan, dan lebih banyak tekanan sosial dan ekonomi, terutama bagi orang miskin. Di persimpangan sejarah global ini, pilihan ini masih menjadi milik kita.

Tentang Penulis

Arshin Adib-Moghaddam, Profesor dalam Pemikiran Global dan Filsafat Komparatif, SOAS, Universitas London

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.