Image by Susan Cipriano
Dari Editor:
Seperti yang disoroti dalam artikel ini, pengembangan kampanye politik yang digerakkan oleh AI, seperti mesin hipotetis yang disebut Clogger, dapat merusak integritas pemilu secara mendalam. Dengan memanfaatkan otomatisasi, perpesanan yang disesuaikan, dan pembelajaran penguatan, mesin ini memiliki potensi untuk memanipulasi dan mengubah perilaku pemilih dalam skala besar.
Di era di mana kecerdasan buatan (AI) berkembang pesat, kita harus tetap waspada terhadap potensi ancaman yang ditimbulkannya terhadap proses demokrasi kita. Munculnya kampanye berbasis AI menantang esensi demokrasi. Alih-alih pemilihan ditentukan oleh kekuatan ide, proposal kebijakan, dan pilihan pemilih sejati, mereka dapat diombang-ambingkan oleh mesin yang hanya berfokus pada kemenangan. Konten yang berlaku akan berasal dari model bahasa AI tanpa memperhatikan kebenaran atau prinsip politik. Intinya, hasil pemilu akan didikte oleh kecerdasan buatan yang mengikis proses demokrasi.
Untuk mencegah munculnya "klogokrasi" dan ketidakberdayaan warga negara, sangat penting bagi kita untuk mengambil tindakan. Perlindungan privasi yang ditingkatkan dan undang-undang privasi data yang kuat dapat membantu membatasi akses mesin AI ke data pribadi, mengurangi keefektifannya dalam menargetkan dan memanipulasi individu. Komisi pemilu juga harus mempertimbangkan untuk melarang atau mengatur secara ketat sistem AI yang dirancang untuk mempengaruhi pemilih. Menerapkan peraturan yang mewajibkan penafian yang jelas saat pesan yang dihasilkan AI digunakan dalam kampanye politik. Ini dapat memberikan transparansi dan membantu pemilih membuat keputusan berdasarkan informasi.
Sangat penting bagi kita untuk mengatasi tantangan ini secara proaktif dan memastikan bahwa kekuatan AI dimanfaatkan secara bertanggung jawab untuk menegakkan prinsip-prinsip demokrasi. Dengan menjaga integritas pemilu dan melindungi kebebasan memilih, kita dapat menavigasi kompleksitas AI dan melestarikan fondasi pemerintahan yang demokratis.
Bagaimana AI dapat mengambil alih pemilu – dan melemahkan demokrasi
Ditulis oleh Archon Fung, Profesor Kewarganegaraan dan Pemerintahan Sendiri, Harvard Kennedy School dan Lawrence Lessig, Guru Besar Ilmu Hukum dan Kepemimpinan, Harvard University
Bisakah organisasi menggunakan model bahasa kecerdasan buatan seperti ChatGPT untuk mendorong pemilih berperilaku dengan cara tertentu?
Senator Josh Hawley menanyakan pertanyaan ini kepada CEO OpenAI Sam Altman di a 16 Mei 2023, sidang Senat AS pada kecerdasan buatan. Altman menjawab bahwa dia memang khawatir beberapa orang mungkin menggunakan model bahasa untuk memanipulasi, membujuk, dan terlibat dalam interaksi satu lawan satu dengan pemilih.
Altman tidak merinci, tetapi dia mungkin memikirkan skenario seperti ini. Bayangkan segera, ahli teknologi politik mengembangkan mesin yang disebut Clogger – kampanye politik dalam kotak hitam. Clogger tanpa henti hanya mengejar satu tujuan: untuk memaksimalkan peluang kandidatnya – kampanye yang membeli layanan Clogger Inc. – menang dalam pemilihan.
Sementara platform seperti Facebook, Twitter, dan YouTube menggunakan bentuk AI untuk menarik pengguna menghabiskan lebih banyak waktu di situs mereka, AI Clogger akan memiliki tujuan yang berbeda: mengubah perilaku memilih orang.
Bagaimana Clogger akan bekerja
Sebagai ilmuwan politik dan sarjana hukum yang mempelajari pertemuan antara teknologi dan demokrasi, kami percaya bahwa sesuatu seperti Clogger dapat menggunakan otomatisasi untuk secara dramatis meningkatkan skala dan kemungkinan keefektifan manipulasi perilaku dan teknik penargetan mikro yang telah digunakan kampanye politik sejak awal 2000-an. Sama seperti pengiklan menggunakan penelusuran dan riwayat media sosial Anda untuk menargetkan iklan komersial dan politik secara individu sekarang, Clogger akan memperhatikan Anda – dan ratusan juta pemilih lainnya – secara individual.
Itu akan menawarkan tiga kemajuan atas manipulasi perilaku algoritmik canggih saat ini. Pertama, model bahasanya akan menghasilkan pesan — teks, media sosial, dan email, mungkin termasuk gambar dan video — yang disesuaikan untuk Anda secara pribadi. Sementara pengiklan secara strategis menempatkan iklan dalam jumlah yang relatif kecil, model bahasa seperti ChatGPT dapat menghasilkan pesan unik yang tak terhitung jumlahnya untuk Anda secara pribadi – dan jutaan untuk orang lain – selama kampanye.
Kedua, Clogger akan menggunakan teknik yang disebut penguatan pembelajaran untuk menghasilkan rangkaian pesan yang semakin besar kemungkinannya untuk mengubah pilihan Anda. Pembelajaran penguatan adalah pembelajaran mesin, pendekatan trial-and-error di mana komputer mengambil tindakan dan mendapatkan umpan balik tentang mana yang bekerja lebih baik untuk mempelajari cara mencapai suatu tujuan. Mesin yang dapat memainkan Go, Catur, dan banyak video game lebih baik dari manusia manapun telah menggunakan pembelajaran penguatan.
Bagaimana pembelajaran penguatan bekerja.
Ketiga, selama kampanye, pesan Clogger dapat berkembang untuk memperhitungkan respons Anda terhadap pengiriman mesin sebelumnya dan apa yang telah dipelajarinya tentang mengubah pikiran orang lain. Clogger akan dapat melakukan “percakapan” dinamis dengan Anda – dan jutaan orang lainnya – dari waktu ke waktu. Pesan Clogger akan serupa dengan iklan yang mengikuti Anda di berbagai situs web dan media sosial.
Sifat AI
Tiga fitur lagi – atau bug – perlu diperhatikan.
Pertama, pesan yang dikirim Clogger mungkin atau mungkin tidak mengandung konten politik. Satu-satunya tujuan mesin ini adalah untuk memaksimalkan pembagian suara, dan kemungkinan besar akan menyusun strategi untuk mencapai tujuan ini yang tidak terpikirkan oleh juru kampanye manusia.
Salah satu kemungkinannya adalah mengirimkan informasi pemilih lawan tentang hasrat nonpolitik yang mereka miliki dalam olahraga atau hiburan untuk mengubur pesan politik yang mereka terima. Kemungkinan lain adalah mengirimkan pesan yang tidak tepat – misalnya iklan inkontinensia – bertepatan dengan pesan lawan. Dan yang lainnya memanipulasi kelompok teman media sosial pemilih untuk memberi kesan bahwa lingkaran sosial mereka mendukung kandidatnya.
Kedua, Clogger tidak menghargai kebenaran. Memang, itu tidak memiliki cara untuk mengetahui apa yang benar atau salah. Model bahasa "halusinasi" tidak menjadi masalah bagi mesin ini karena tujuannya adalah untuk mengubah suara Anda, bukan untuk memberikan informasi yang akurat.
Ketiga, karena merupakan a jenis kotak hitam kecerdasan buatan, orang tidak akan tahu strategi apa yang digunakannya.
Bidang AI yang dapat dijelaskan bertujuan untuk membuka kotak hitam dari banyak model pembelajaran mesin sehingga orang dapat memahami cara kerjanya.
Klogokrasi
Jika kampanye kepresidenan Republik akan menggunakan Clogger pada tahun 2024, kampanye Demokrat kemungkinan besar akan dipaksa untuk merespons dengan cara yang sama, mungkin dengan mesin serupa. Sebut saja Doger. Jika manajer kampanye berpikir bahwa mesin ini efektif, kontes presiden mungkin akan jatuh pada Clogger vs. Dogger, dan pemenangnya adalah klien dari mesin yang lebih efektif.
Ilmuwan dan pakar politik akan banyak bicara tentang mengapa satu atau AI lainnya menang, tetapi kemungkinan besar tidak ada yang benar-benar tahu. Presiden akan terpilih bukan karena proposal kebijakan atau ide politiknya meyakinkan lebih banyak orang Amerika, tetapi karena dia memiliki AI yang lebih efektif. Konten yang memenangkan hari itu akan berasal dari AI yang hanya berfokus pada kemenangan, tanpa ide politiknya sendiri, bukan dari kandidat atau partai.
Dalam pengertian yang sangat penting ini, sebuah mesin akan memenangkan pemilihan daripada seseorang. Pemilu tidak lagi demokratis, meskipun semua kegiatan demokrasi yang biasa – pidato, iklan, pesan, pemungutan suara, dan penghitungan suara – akan terjadi.
Presiden terpilih AI kemudian dapat mengambil salah satu dari dua cara. Dia bisa menggunakan mantel pemilihan untuk mengejar kebijakan partai Republik atau Demokrat. Tetapi karena ide partai mungkin tidak ada hubungannya dengan mengapa orang memilih seperti itu – Clogger dan Dogger tidak peduli dengan pandangan kebijakan – tindakan presiden tidak serta merta mencerminkan keinginan pemilih. Pemilih akan dimanipulasi oleh AI daripada secara bebas memilih pemimpin politik dan kebijakan mereka.
Jalan lain bagi presiden untuk mengejar pesan, perilaku, dan kebijakan yang diprediksi mesin akan memaksimalkan peluang pemilihan kembali. Di jalur ini, presiden tidak akan memiliki platform atau agenda khusus selain mempertahankan kekuasaan. Tindakan presiden, yang dipandu oleh Clogger, kemungkinan besar akan memanipulasi pemilih daripada melayani kepentingan sejati mereka atau bahkan ideologi presiden sendiri.
Menghindari Klogokrasi
Dimungkinkan untuk menghindari manipulasi pemilu AI jika kandidat, kampanye, dan konsultan semuanya menolak penggunaan AI politik semacam itu. Kami yakin itu tidak mungkin. Jika kotak hitam yang efektif secara politis dikembangkan, godaan untuk menggunakannya hampir tak tertahankan. Memang, konsultan politik mungkin melihat penggunaan alat-alat ini seperti yang dipersyaratkan oleh tanggung jawab profesional mereka untuk membantu kandidat mereka menang. Dan begitu satu kandidat menggunakan alat yang begitu efektif, lawan hampir tidak bisa diharapkan untuk melawan dengan melucuti senjata secara sepihak.
Perlindungan privasi yang ditingkatkan akan membantu. Clogger akan bergantung pada akses ke sejumlah besar data pribadi untuk menargetkan individu, menyusun pesan yang disesuaikan untuk membujuk atau memanipulasi mereka, serta melacak dan menargetkan ulang mereka selama kampanye. Setiap informasi yang disangkal oleh perusahaan atau pembuat kebijakan akan membuatnya kurang efektif.
Undang-undang privasi data yang kuat dapat membantu menjauhkan AI dari manipulatif.
Solusi lain terletak pada komisi pemilihan. Mereka dapat mencoba melarang atau mengatur mesin ini dengan ketat. Ada perdebatan sengit tentang apakah seperti itu pidato "replika"., meskipun bersifat politis, dapat diatur. Tradisi kebebasan berbicara ekstrem AS memimpin banyak akademisi terkemuka untuk mengatakan tidak bisa.
Tetapi tidak ada alasan untuk secara otomatis memperluas perlindungan Amandemen Pertama terhadap produk mesin-mesin ini. Bangsa mungkin memilih untuk memberikan hak mesin, tetapi itu harus menjadi keputusan yang didasarkan pada tantangan hari ini, bukan asumsi yang salah tempat bahwa pandangan James Madison pada tahun 1789 dimaksudkan untuk diterapkan pada AI.
Regulator Uni Eropa bergerak ke arah ini. Pembuat kebijakan merevisi draf Undang-Undang Kecerdasan Buatan Parlemen Eropa untuk menetapkan "sistem AI untuk memengaruhi pemilih dalam kampanye" sebagai “risiko tinggi” dan tunduk pada pengawasan regulasi.
Satu langkah yang secara konstitusional lebih aman, jika lebih kecil, sudah diadopsi sebagian oleh Regulator internet Eropa dan dalam California, adalah untuk melarang bot menyamar sebagai manusia. Misalnya, peraturan mungkin mengharuskan pesan kampanye disertai penafian jika konten yang dikandungnya dihasilkan oleh mesin, bukan manusia.
Ini akan seperti persyaratan penafian iklan – “Dibayar oleh Sam Jones untuk Komite Kongres” – tetapi dimodifikasi untuk mencerminkan asal AI-nya: “Iklan yang dihasilkan AI ini dibayar oleh Sam Jones untuk Komite Kongres.” Versi yang lebih kuat mungkin memerlukan: "Pesan yang dibuat oleh AI ini dikirimkan kepada Anda oleh Sam Jones untuk Komite Kongres karena Clogger telah memperkirakan bahwa hal itu akan meningkatkan peluang Anda untuk memilih Sam Jones sebesar 0.0002%." Paling tidak, kami yakin pemilih berhak mengetahui kapan bot berbicara kepada mereka, dan mereka juga harus tahu alasannya.
Kemungkinan sistem seperti Clogger menunjukkan bahwa jalan menuju ketidakberdayaan kolektif manusia mungkin tidak membutuhkan manusia super kecerdasan umum buatan. Ini mungkin hanya membutuhkan juru kampanye dan konsultan yang terlalu bersemangat yang memiliki alat baru yang kuat yang dapat secara efektif menekan banyak tombol jutaan orang.
Tentang Penulis
Archon Fung, Profesor Kewarganegaraan dan Pemerintahan Sendiri, Harvard Kennedy School dan Lawrence Lessig, Guru Besar Ilmu Hukum dan Kepemimpinan, Harvard University
Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.
Tambahan Editor: Potensi AI untuk mengambil alih pemilu dan merusak demokrasi adalah masalah mendesak yang menuntut perhatian kita. Seperti yang telah disoroti oleh artikel ini, kebangkitan kampanye politik berbasis AI seperti Clogger dapat mengubah hasil pemilu, dengan mesin yang memengaruhi perilaku pemilih dalam skala yang belum pernah terjadi sebelumnya. Konsekuensi dari pergeseran semacam itu akan sangat luas, dengan pemilihan yang ditentukan bukan oleh keinginan rakyat tetapi oleh efektivitas manipulasi AI.
Untuk mencegah pelemahan warga negara dan menjaga demokrasi, kita harus mengambil tindakan proaktif. Perlindungan privasi yang kuat dan peraturan yang membatasi pengaruh sistem AI dalam pemilu sangatlah penting. Dengan memastikan transparansi, menegakkan penafian yang jelas untuk konten yang dihasilkan AI, dan mempromosikan penggunaan AI yang bertanggung jawab, kita dapat menegakkan integritas proses demokrasi dan melindungi nilai-nilai dasar masyarakat kita.
Penting bagi kita untuk tetap waspada dan bekerja sama untuk mengatasi tantangan yang ditimbulkan oleh AI dalam pemilu. Dengan demikian, kita dapat melestarikan cita-cita demokrasi yang menopang masyarakat kita dan mengamankan masa depan di mana kekuatan teknologi sejalan dengan kepentingan dan aspirasi masyarakat.
Buku terkait:
Tentang Tirani: Dua Puluh Pelajaran dari Abad Kedua Puluh
oleh Timotius Snyder
Buku ini menawarkan pelajaran dari sejarah untuk menjaga dan mempertahankan demokrasi, termasuk pentingnya institusi, peran individu warga negara, dan bahaya otoritarianisme.
Klik untuk info lebih lanjut atau untuk memesan
Waktu Kita Sekarang: Kekuatan, Tujuan, dan Perjuangan untuk Amerika yang Adil
oleh Stacey Abrams
Penulis, seorang politikus dan aktivis, membagikan visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktis untuk keterlibatan politik dan mobilisasi pemilih.
Klik untuk info lebih lanjut atau untuk memesan
Bagaimana Demokrasi Mati
oleh Steven Levitsky dan Daniel Ziblatt
Buku ini membahas tanda-tanda peringatan dan penyebab kehancuran demokrasi, dengan mengambil studi kasus dari seluruh dunia untuk menawarkan wawasan tentang bagaimana melindungi demokrasi.
Klik untuk info lebih lanjut atau untuk memesan
The People, No: Sejarah Singkat Anti-Populisme
oleh Thomas Frank
Penulis menawarkan sejarah gerakan populis di Amerika Serikat dan mengkritik ideologi "anti-populis" yang menurutnya telah menghambat reformasi dan kemajuan demokrasi.
Klik untuk info lebih lanjut atau untuk memesan
Demokrasi dalam Satu Buku atau Kurang: Cara Kerjanya, Mengapa Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Pikirkan
oleh David Litt
Buku ini menawarkan ikhtisar demokrasi, termasuk kekuatan dan kelemahannya, dan mengusulkan reformasi untuk membuat sistem lebih responsif dan akuntabel.
