Rilis chatbot lanjutan ChatGPT pada tahun 2022 membuat semua orang berbicara tentang kecerdasan buatan (AI). Kemampuannya yang canggih menambah kekhawatiran tentang AI yang menjadi begitu canggih sehingga kita tidak akan bisa mengendalikannya lagi. Ini bahkan membuat beberapa pakar dan pemimpin industri memperingatkan bahwa teknologi dapat menyebabkan kepunahan manusia.
Namun, komentator lain tidak yakin. Noam Chomsky, seorang profesor linguistik, menolak ChatGPT sebagai “plagiarisme berteknologi tinggi".
Selama bertahun-tahun, saya santai tentang prospek dampak AI terhadap keberadaan manusia dan lingkungan kita. Itu karena saya selalu menganggapnya sebagai pembimbing atau penasehat bagi manusia. Tetapi prospek AI membuat keputusan – menggunakan kontrol eksekutif – adalah masalah lain. Dan itu salah satu yang sekarang dihibur dengan serius.
Salah satu alasan utama kita tidak boleh membiarkan AI memiliki kekuatan eksekutif adalah karena AI sama sekali tidak memiliki emosi, yang sangat penting untuk pengambilan keputusan. Tanpa emosi, empati, dan kompas moral, Anda telah menciptakan psikopat sempurna. Sistem yang dihasilkan mungkin sangat cerdas, tetapi tidak memiliki inti emosional manusia yang memungkinkannya mengukur konsekuensi emosional yang berpotensi merusak dari keputusan yang rasional.
Ketika AI mengambil kendali eksekutif
Yang penting, kita seharusnya tidak hanya menganggap AI sebagai ancaman eksistensial jika memang demikian menempatkannya bertanggung jawab atas persenjataan nuklir. Pada dasarnya tidak ada batasan jumlah posisi kontrol yang dapat menimbulkan kerusakan yang tak terbayangkan.
Pertimbangkan, misalnya, bagaimana AI dapat mengidentifikasi dan mengatur informasi yang diperlukan untuk membangun konservatori Anda sendiri. Iterasi teknologi saat ini bisa memandu Anda secara efektif melalui setiap langkah membangun dan mencegah banyak kesalahan pemula. Namun di masa mendatang, AI dapat bertindak sebagai manajer proyek dan mengoordinasikan pembangunan dengan memilih kontraktor dan membayarnya langsung dari anggaran Anda.
AI sudah digunakan di hampir semua domain pemrosesan informasi dan analisis data – dari pemodelan pola cuaca untuk mengendalikan kendaraan tanpa pengemudi untuk membantu diagnosis medis. Tapi di sinilah masalah dimulai – ketika kita membiarkan sistem AI mengambil langkah kritis dari peran penasihat menjadi manajer eksekutif.
Alih-alih hanya menyarankan solusi untuk a rekening perusahaan, bagaimana jika AI diberikan kendali langsung, dengan kemampuan untuk menerapkan prosedur untuk memulihkan hutang, melakukan transfer bank, dan memaksimalkan keuntungan – tanpa batasan bagaimana melakukan ini. Atau bayangkan sistem AI tidak hanya menyediakan a diagnosis berdasarkan sinar-X, tetapi diberi kuasa untuk langsung meresepkan perawatan atau pengobatan.
Anda mungkin mulai merasa tidak nyaman dengan skenario seperti itu – saya pasti akan melakukannya. Alasannya mungkin intuisi Anda bahwa mesin ini sebenarnya tidak memiliki "jiwa". Mereka hanya program yang dirancang untuk mencerna sejumlah besar informasi untuk menyederhanakan data yang kompleks menjadi pola yang lebih sederhana, memungkinkan manusia membuat keputusan dengan lebih percaya diri. Mereka tidak – dan tidak bisa – memiliki emosi, yang terkait erat dengan indera dan naluri biologis.
Emosi dan moral
Kecerdasan emosional adalah kemampuan mengelola emosi kita untuk mengatasi stres, berempati, dan berkomunikasi secara efektif. Ini bisa dibilang lebih penting dalam konteks pengambilan keputusan daripada kecerdasan saja, karena keputusan terbaik tidak selalu yang paling rasional.
Kemungkinan kecerdasan, kemampuan untuk berpikir dan beroperasi secara logis, dapat disematkan ke dalam sistem bertenaga AI sehingga mereka dapat membuat keputusan yang rasional. Tapi bayangkan meminta AI yang kuat dengan kemampuan eksekutif mengatasi krisis iklim. Hal pertama yang mungkin terinspirasi untuk dilakukan adalah mengurangi populasi manusia secara drastis.
Pengurangan ini tidak perlu banyak penjelasan. Kita manusia, hampir secara definisi, adalah sumber polusi dalam segala bentuk yang mungkin. Kemanusiaan kapak dan perubahan iklim akan teratasi. Ini bukanlah pilihan yang akan diambil oleh pembuat keputusan manusia, seperti yang diharapkan, tetapi AI akan menemukan solusinya sendiri – tidak dapat ditembus dan tidak terbebani oleh keengganan manusia untuk menyebabkan kerugian. Dan jika itu memiliki kekuatan eksekutif, mungkin tidak ada yang menghentikannya.
Memberi AI kemampuan untuk mengambil keputusan eksekutif dalam kontrol lalu lintas udara mungkin merupakan kesalahan. Gorodenkoff / Shutterstock
Skenario sabotase
Bagaimana dengan sabotase sensor dan monitor mengendalikan peternakan makanan? Ini mungkin terjadi secara bertahap pada awalnya, mendorong kontrol melewati titik kritis sehingga tidak ada manusia yang memperhatikan bahwa tanaman dikutuk. Dalam skenario tertentu, ini dapat dengan cepat menyebabkan kelaparan.
Alternatifnya, bagaimana dengan mematikan kontrol lalu lintas udara secara global, atau hanya menabrakkan semua pesawat terbang pada satu waktu? Sekitar 22,000 pesawat biasanya mengudara secara bersamaan, yang menambah potensi korban jiwa beberapa juta orang.
Jika Anda berpikir bahwa kita jauh dari situasi itu, pikirkan lagi. AI sudah mengendarai mobil dan menerbangkan pesawat militer, secara mandiri.
Sebagai alternatif, bagaimana dengan menutup akses ke rekening bank di seluruh wilayah dunia yang luas, memicu kerusuhan sipil di mana-mana sekaligus? Atau mematikan sistem pemanas yang dikendalikan komputer di tengah musim dingin, atau sistem AC di puncak musim panas?
Singkatnya, sistem AI tidak harus bertanggung jawab atas senjata nuklir untuk menjadi ancaman serius bagi umat manusia. Namun sementara kita membahas topik ini, jika sistem AI cukup kuat dan cerdas, ia dapat menemukan cara memalsukan serangan terhadap negara dengan senjata nuklir, memicu pembalasan yang dimulai oleh manusia.
Bisakah AI membunuh manusia dalam jumlah besar? Jawabannya pasti ya, secara teori. Tetapi ini sebagian besar bergantung pada manusia yang memutuskan untuk memberikannya kendali eksekutif. Saya tidak bisa memikirkan sesuatu yang lebih menakutkan daripada AI yang dapat membuat keputusan dan memiliki kekuatan untuk mengimplementasikannya.
Tentang Penulis
Guillaume Thierry, Profesor Ilmu Saraf Kognitif, Bangor University
Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.
