shutterstock.
Masyarakat barat individualistis dibangun di atas gagasan bahwa tidak ada yang tahu pikiran, keinginan, atau kegembiraan kita lebih baik daripada kita. Jadi kami menempatkan diri kami sendiri, bukan pemerintah, yang bertanggung jawab atas hidup kami. Kami cenderung setuju dengan filsuf Klaim Immanuel Kant bahwa tidak ada yang berhak memaksakan gagasan mereka tentang kehidupan yang baik kepada kita.
Kecerdasan buatan (AI) akan mengubah ini. Itu akan mengenal kita lebih baik daripada kita mengenal diri kita sendiri. Pemerintah yang dipersenjatai dengan AI dapat mengklaim mengetahui apa yang benar-benar diinginkan rakyatnya dan apa yang benar-benar akan membuat mereka bahagia. Paling-paling ini akan menggunakan ini untuk membenarkan paternalisme, paling buruk, totalitarianisme.
Setiap neraka dimulai dengan janji surga. Totalitarianisme yang dipimpin AI tidak akan berbeda. Kebebasan akan menjadi ketaatan pada negara. Hanya orang yang irasional, pendendam, atau subversif yang ingin memilih jalan mereka sendiri.
Untuk mencegah distopia seperti itu, kita tidak boleh membiarkan orang lain mengetahui lebih banyak tentang diri kita sendiri daripada kita. Kita tidak bisa membiarkan celah pengetahuan diri.
AI yang Melihat Segalanya
Pada 2019, investor miliarder Peter Thiel mengklaim bahwa AI adalah "secara harfiah komunis". Dia menunjukkan bahwa AI memungkinkan kekuatan terpusat untuk memantau warga dan mengetahui lebih banyak tentang mereka daripada yang mereka ketahui tentang diri mereka sendiri. Cina, kata Thiel, telah dengan penuh semangat menggunakan AI.
Kami sudah tahu potensi AI untuk mendukung totaliterisme dengan menyediakan sistem pengawasan dan kontrol Orwellian. Tapi AI juga memberi totaliter senjata filosofis. Selama kita mengenal diri kita sendiri lebih baik daripada pemerintah, liberalisme dapat membuat para totaliter yang bercita-cita tinggi menjauh.
Tapi AI telah mengubah permainan. Perusahaan teknologi besar mengumpulkan banyak sekali data tentang perilaku kita. Algoritme pembelajaran mesin menggunakan data ini untuk menghitung tidak hanya apa yang akan kami lakukan, tetapi siapa kami.
Hari ini, AI bisa memprediksi film apa yang kita suka, berita apa yang ingin kita baca, dan siapa yang ingin kita berteman di Facebook. Itu dapat memprediksi apakah pasangan akan tetap bersama dan jika kita mau coba bunuh diri. Dari suka Facebook kami, AI bisa memprediksi pandangan agama dan politik, kepribadian, kecerdasan, penggunaan narkoba dan kebahagiaan kita.
Akurasi prediksi AI hanya akan meningkat. Dalam waktu yang tidak terlalu lama, sebagai penulis Yuval Noah Harari telah menyarankan, AI mungkin memberi tahu kita siapa kita sebelum kita sendiri mengetahuinya.
Perkembangan ini memiliki implikasi politik seismik. Jika pemerintah dapat mengenal kita lebih baik daripada yang kita bisa, pembenaran baru terbuka untuk campur tangan dalam hidup kita. Mereka akan menzalimi kita atas nama kebaikan kita sendiri.
Kebebasan melalui tirani
Filsuf Isaiah Berlin meramalkan hal ini pada tahun 1958. Dia mengidentifikasi dua jenis kebebasan. Satu jenis, dia memperingatkan, akan mengarah pada tirani.
Kebebasan negatif adalah “kebebasan dari”. Ini adalah kebebasan dari campur tangan orang lain atau pemerintah dalam urusan Anda. Kebebasan negatif tidak ada orang lain yang bisa menahan Anda, selama Anda tidak melanggar hak orang lain.
Sebaliknya, kebebasan positif adalah “kebebasan untuk”. Ini adalah kebebasan untuk menjadi tuan atas diri sendiri, kebebasan untuk memenuhi keinginan sejati Anda, kebebasan untuk menjalani kehidupan yang rasional. Siapa yang tidak menginginkan ini?
Tetapi bagaimana jika orang lain mengatakan Anda tidak bertindak sesuai dengan "minat sebenarnya" Anda, meskipun mereka tahu bagaimana Anda bisa melakukannya. Jika Anda tidak mau mendengarkan, mereka mungkin memaksa Anda untuk bebas - memaksa Anda untuk "kebaikan Anda sendiri". Ini adalah salah satu ide paling berbahaya yang pernah ada. Itu menewaskan puluhan juta orang Uni Soviet Stalin dan Mao Cina.
Pemimpin Komunis Rusia, Lenin, dikabarkan pernah berkata bahwa kaum kapitalis akan menjualnya tali yang akan dia gunakan untuk menggantung mereka. Peter Thiel membantah bahwa, dalam AI, perusahaan teknologi kapitalis Silicon Valley telah menjual alat komunisme yang mengancam untuk melemahkan masyarakat kapitalis demokratis. AI adalah tali Lenin.
Berjuang untuk diri kita sendiri
Kita hanya dapat mencegah distopia seperti itu jika tidak ada yang diizinkan untuk mengenal kita lebih baik daripada kita mengenal diri kita sendiri. Kita tidak boleh membuat orang sentimental yang mencari kekuasaan seperti itu atas kita dengan niat baik. Secara historis, ini hanya berakhir dengan malapetaka.
Salah satu cara untuk mencegah kesenjangan pengetahuan diri adalah dengan meningkatkan perlindungan privasi kami. Thiel, yang menyebut AI sebagai komunis, berpendapat bahwa "crypto adalah libertarian". Cryptocurrency bisa menjadi "mengaktifkan privasi". Privasi mengurangi kemampuan orang lain untuk mengenal kami dan kemudian menggunakan pengetahuan ini untuk memanipulasi kami untuk keuntungan mereka sendiri.
Namun mengetahui diri kita lebih baik melalui AI menawarkan manfaat yang kuat. Kita mungkin dapat menggunakannya untuk lebih memahami apa yang akan membuat kita bahagia, sehat, dan kaya. Mungkin membantu memandu pilihan karir kita. Secara lebih umum, AI berjanji untuk menciptakan pertumbuhan ekonomi bahwa menjauhkan kita dari tenggorokan satu sama lain.
Masalahnya bukanlah AI meningkatkan pengetahuan diri kita. Masalahnya adalah a perbedaan kekuatan dalam apa yang diketahui tentang kita. Pengetahuan tentang kita secara eksklusif di tangan orang lain adalah kekuatan atas kita. Tapi pengetahuan tentang kita di tangan kita sendiri adalah kekuatan bagi kita.
Siapa saja yang memproses data kami untuk menciptakan pengetahuan tentang kita harus diwajibkan secara hukum untuk memberi kita kembali pengetahuan itu. Kami perlu memperbarui gagasan "tidak ada tentang kita tanpa kitaUntuk AI-age.
Apa yang AI katakan kepada kita tentang diri kita adalah untuk kita pertimbangkan untuk digunakan, bukan untuk orang lain untuk mendapatkan keuntungan dari penyalahgunaan. Seharusnya hanya ada satu tangan yang menjadi penggarap jiwa kita. Dan itu harus menjadi milik kita.
Tentang Penulis
Simon McCarthy-Jones, Profesor Associate dalam Psikologi Klinis dan Neuropsikologi, Trinity College Dublin
Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.
Buku terkait:
Tentang Tirani: Dua Puluh Pelajaran dari Abad Kedua Puluh
oleh Timotius Snyder
Buku ini menawarkan pelajaran dari sejarah untuk menjaga dan mempertahankan demokrasi, termasuk pentingnya institusi, peran individu warga negara, dan bahaya otoritarianisme.
Klik untuk info lebih lanjut atau untuk memesan
Waktu Kita Sekarang: Kekuatan, Tujuan, dan Perjuangan untuk Amerika yang Adil
oleh Stacey Abrams
Penulis, seorang politikus dan aktivis, membagikan visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktis untuk keterlibatan politik dan mobilisasi pemilih.
Klik untuk info lebih lanjut atau untuk memesan
Bagaimana Demokrasi Mati
oleh Steven Levitsky dan Daniel Ziblatt
Buku ini membahas tanda-tanda peringatan dan penyebab kehancuran demokrasi, dengan mengambil studi kasus dari seluruh dunia untuk menawarkan wawasan tentang bagaimana melindungi demokrasi.
Klik untuk info lebih lanjut atau untuk memesan
The People, No: Sejarah Singkat Anti-Populisme
oleh Thomas Frank
Penulis menawarkan sejarah gerakan populis di Amerika Serikat dan mengkritik ideologi "anti-populis" yang menurutnya telah menghambat reformasi dan kemajuan demokrasi.
Klik untuk info lebih lanjut atau untuk memesan
Demokrasi dalam Satu Buku atau Kurang: Cara Kerjanya, Mengapa Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Pikirkan
oleh David Litt
Buku ini menawarkan ikhtisar demokrasi, termasuk kekuatan dan kelemahannya, dan mengusulkan reformasi untuk membuat sistem lebih responsif dan akuntabel.
