Sejarawan masa depan mungkin menganggap tahun 2023 sebagai tonggak sejarah munculnya kecerdasan buatan (AI). Tapi apakah masa depan itu akan terbukti utopis, apokaliptik or suatu tempat di antara tebak siapa pun.
Pada bulan Februari, ChatGPT mencetak rekor sebagai aplikasi tercepat untuk dijangkau 100 juta pengguna. Hal ini diikuti oleh model AI “bahasa besar” serupa dari Google, Amazon, Meta, dan perusahaan teknologi besar lainnya, yang secara kolektif terlihat siap untuk mentransformasikan pendidikan, layanan kesehatan, dan banyak bidang padat pengetahuan lainnya.
Namun, potensi bahaya yang ditimbulkan oleh AI telah ditegaskan pada bulan Mei oleh sebuah pernyataan yang tidak menyenangkan ditandatangani oleh peneliti terkemuka:
Mengurangi risiko kepunahan akibat AI harus menjadi prioritas global bersama dengan risiko-risiko berskala sosial lainnya seperti pandemi dan perang nuklir.
Pada bulan November, sebagai respons terhadap meningkatnya kekhawatiran mengenai risiko AI, 27 negara (termasuk Inggris, AS, India, Tiongkok, dan Uni Eropa) menjanjikan kerja sama pada KTT Keamanan AI yang pertama di Bletchley Park, Inggris, untuk memastikan pengembangan AI yang aman. Untuk manfaat semuanya.
Untuk mencapai hal ini, peneliti fokus pada Penyelarasan AI – yaitu, bagaimana memastikan model AI konsisten dengan nilai-nilai kemanusiaan, preferensi, dan tujuan. Namun ada masalah – yang disebut AI “Rahasia gelap”: Model skala besar begitu rumit sehingga seperti kotak hitam, mustahil bagi siapa pun untuk memahaminya sepenuhnya.
Masalah kotak hitam AI
Meskipun transparansi dan penjelasan sistem AI memang demikian tujuan penelitian yang penting, upaya-upaya tersebut sepertinya tidak akan mampu mengimbangi laju inovasi yang pesat.
Metafora kotak hitam menjelaskan mengapa kepercayaan masyarakat terhadap AI tersebar luas. Prediksi berkisar dari utopia hingga kepunahan, dan banyak yang bahkan percaya bahwa kecerdasan umum buatan (AGI) akan segera terjadi mencapai perasaan.
Namun ketidakpastian ini menambah masalah. Penyelarasan AI harus bersifat dua arah: kita tidak hanya harus memastikan model AI konsisten dengan niat manusia, namun juga keyakinan kita tentang AI akurat.
Hal ini karena kita sangat mahir dalam menciptakan masa depan yang sesuai dengan keyakinan tersebut, meskipun kita tidak menyadarinya.
Yang disebut "efek harapan”, atau ramalan yang terwujud dengan sendirinya, terkenal dalam psikologi. Dan penelitian menunjukkan bahwa memanipulasi keyakinan pengguna tidak hanya memengaruhi cara mereka berinteraksi dengan AI, tapi bagaimana AI beradaptasi dengan penggunanya.
Dengan kata lain, bagaimana keyakinan kita (disadari atau tidak) memengaruhi AI berpotensi meningkatkan kemungkinan terjadinya akibat apa pun, termasuk dampak bencana.
AI, komputasi, logika dan aritmatika
Kita perlu menyelidiki lebih dalam untuk memahami dasar AI – seperti Alice in Wonderland, turun ke lubang kelinci dan lihat ke mana hal itu membawa kita.
Pertama, apa itu AI? Ini berjalan di komputer, begitu pula komputasi otomatis. Dari asal usulnya sebagai “perceptron” – neuron buatan yang didefinisikan secara matematis pada tahun 1943 oleh ahli neurofisiologi Warren McCulloch dan ahli logika Walter Pitts – AI telah terkait dengan ilmu kognitif, ilmu saraf, dan ilmu komputer.
Konvergensi ini pikiran, otak dan mesin telah menimbulkan keyakinan luas bahwa, karena AI adalah komputasi yang dilakukan oleh mesin, maka kecerdasan alami (pikiran) harus dihitung oleh otak.
Tapi apa itu komputasi? Pada akhir abad ke-19, ahli matematika Richard Dedekind dan Giuseppe Peano mengusulkan serangkaian aksioma yang mendefinisikan aritmatika dalam logika, dan mengilhami upaya untuk mendasarkan semua matematika pada landasan yang aman dasar formal.
Meskipun ahli logika Kurt Godel kemudian membuktikan tujuan ini tidak bisa diraih, karyanya adalah titik awal bagi ahli matematika (dan pemecah kode) Alan Turing. Miliknya "Mesin turing”, perangkat abstrak yang mampu melakukannya komputasi universal, adalah dasar dari ilmu komputer.
Struktur persepsi yang dalam
Jadi, komputasi didasarkan pada ide-ide matematika yang menelusuri kembali upaya untuk mendefinisikan aritmatika dalam logika. Tapi pengetahuan kita tentang aritmatika ada sebelum logika. Jika kita ingin memahami dasar AI, kita perlu melangkah lebih jauh dan bertanya dari mana asal aritmatika itu sendiri.
Rekan-rekan saya dan saya baru-baru ini menunjukkan bahwa aritmatika didasarkan pada “struktur yang dalam” persepsi. Struktur ini seperti kacamata berwarna yang membentuk persepsi kita dengan cara tertentu, sehingga pengalaman kita terhadap dunia tertata dan dapat dikelola.
Aritmatika terdiri dari sekumpulan elemen (angka) dan operasi (penjumlahan, perkalian) yang menggabungkan pasangan elemen untuk menghasilkan elemen lain. Kita bertanya: dari semua kemungkinan, mengapa bilangan merupakan unsur, sedangkan penjumlahan dan perkalian merupakan operasi?
Kami ditunjukkan oleh bukti matematika bahwa ketika struktur persepsi yang dalam diasumsikan membatasi kemungkinan, hasilnya adalah aritmatika. Dengan kata lain, ketika pikiran kita memandang dunia abstrak melalui “kacamata berwarna” yang sama yang membentuk pengalaman kita terhadap dunia fisik, pikiran kita “melihat” angka dan aritmatika.
Karena aritmatika adalah landasan matematika, implikasinya adalah bahwa matematika adalah cerminan pikiran – sebuah ekspresi dalam simbol-simbol dari sifat dasar dan kreativitasnya.
Meskipun struktur persepsi yang mendalam juga dimiliki oleh hewan lain dan merupakan produk evolusi, hanya manusia yang menemukan matematika. Ini adalah ciptaan kami yang paling intim – dan dengan memungkinkan pengembangan AI, mungkin ini adalah hal yang paling penting bagi kami.
Sebuah revolusi pikiran Copernicus
Akun kami tentang asal usul aritmatika konsisten dengan pandangan filsuf abad ke-18 Immanuel Kant. Menurutnya, pengetahuan kita tentang dunia disusun oleh “intuisi murni” ruang dan waktu yang sudah ada sebelum pengalaman indra – analog dengan kaca berwarna yang tidak akan pernah bisa kita lepas.
Kant mengklaim miliknya filsafat adalah “revolusi pikiran Copernicus”. Sama seperti para astronom kuno yang percaya bahwa Matahari berputar mengelilingi Bumi karena mereka tidak menyadari pergerakan Bumi, kata Kant, filsuf yang percaya bahwa semua pengetahuan berasal dari bumi. pengalaman indra (John Locke dan David Hume, misalnya) mengabaikan bagaimana pikiran membentuk persepsi.
Meskipun pandangan Kant dibentuk oleh ilmu alam pada zamannya, mereka telah membuktikannya berpengaruh dalam psikologi kontemporer.
Pengakuan bahwa aritmatika adalah a konsekuensi alami dari persepsi kita, dan dengan demikian berdasarkan biologis, menunjukkan pergeseran Kantian serupa dalam pemahaman kita tentang komputasi.
Komputasi tidak berada “di luar” atau terpisah dari kita dalam dunia abstrak kebenaran matematika, namun melekat pada sifat pikiran kita. Pikiran lebih dari sekedar perhitungan; otak bukanlah komputer. Sebaliknya, komputasi – yang menjadi dasar AI –, seperti halnya matematika, merupakan ekspresi simbolis dari sifat dan kreativitas pikiran.
Api Promethean
Apa implikasinya terhadap AI? Pertama, AI bukanlah pikiran dan tidak akan pernah menjadi makhluk hidup. Gagasan bahwa kita dapat melampaui sifat biologis kita dan mencapai keabadian dengan mengunggah pikiran kita ke awan hanyalah gagasan belaka fantasi.
Namun jika prinsip-prinsip pikiran yang mendasari AI dianut oleh seluruh umat manusia (dan mungkin juga makhluk hidup lainnya), maka kita bisa melampaui keterbatasan pikiran kita masing-masing.
Karena komputasi bersifat universal, kita bebas melakukan simulasi dan menciptakan hasil apa pun yang kita pilih di dunia virtual dan fisik yang semakin terhubung. Dengan cara ini, AI benar-benar milik kita Api Promethean, hadiah untuk umat manusia yang dicuri dari para dewa seperti di mitologi Yunani.
Sebagai peradaban global, kita mungkin sedang berada pada titik balik. AI tidak akan menjadi hidup dan memutuskan untuk melakukannya bunuh kita semua. Namun kita sangat mampu untuk “menghancurkan” diri kita sendiri dengan hal tersebut – ekspektasi dapat menciptakan kenyataan.
Upaya untuk memastikan keselarasan, keselamatan, dan keamanan AI sangatlah penting, namun mungkin tidak cukup jika kita tidak memiliki kesadaran dan kebijaksanaan kolektif. Seperti Alice, kita perlu bangun dari mimpi dan menyadari kenyataan serta kekuatan pikiran kita.
Randolph Grace, Profesor Psikologi, University of Canterbury
Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.
