Campuran deepfake dan kampanye politik yang mudah menguap adalah alasan yang bagus untuk waspada. Sean Anthony Eddy Creative/E+ melalui Getty Images
Bayangkan sebuah Kejutan Oktober tidak seperti yang lain: Hanya seminggu sebelum 5 November 2024, sebuah rekaman video mengungkap pertemuan rahasia antara Joe Biden dan Volodymyr Zelenskyy. Presiden Amerika dan Ukraina setuju untuk segera menginisiasi Ukraina ke dalam NATO di bawah "protokol keanggotaan darurat khusus" dan mempersiapkan serangan senjata nuklir terhadap Rusia. Tiba-tiba, dunia berada di puncak Armageddon.
Sementara wartawan bisa menunjukkan itu tidak ada protokol seperti itu dan pengguna media sosial mungkin memperhatikan kualitas video-game yang aneh dari video tersebut, orang lain mungkin merasakannya ketakutan terburuk mereka telah dikonfirmasi. Ketika Hari Pemilihan tiba, warga yang peduli ini mungkin membiarkan video mempengaruhi suara mereka, tanpa menyadari bahwa mereka baru saja dimanipulasi oleh situasi deepfake – sebuah peristiwa yang tidak pernah benar-benar terjadi.
Situasi deepfake mewakili tahap selanjutnya dari teknologi itu sudah terlanjur mengguncang persepsi penonton tentang realitas. Dalam penelitian kami di Proyek DeFake, rekan-rekan saya di Rochester Institute of Technology, yang Universitas Mississippi, Michigan State University dan saya pelajari bagaimana deepfake dibuat dan tindakan apa yang dapat diambil pemilih untuk mempertahankan diri darinya.
Membayangkan kejadian yang tidak pernah terjadi
Deepfake dibuat ketika seseorang menggunakan alat kecerdasan buatan, khususnya belajar mendalam, untuk memanipulasi atau menghasilkan a wajah, Sebuah suara atau – dengan munculnya model bahasa besar 'like' ChatGPT - bahasa percakapan. Ini dapat digabungkan untuk membentuk "deepfake situasi".
Ide dasar dan teknologi deepfake situasi sama dengan deepfake lainnya, tetapi dengan ambisi yang lebih berani: untuk memanipulasi peristiwa nyata atau menciptakannya dari udara tipis. Contohnya termasuk penggambaran Pelaku Donald Trump berjalan dan Trump memeluk Anthony Fauci, tidak ada yang terjadi. Tembakan pelukan dipromosikan oleh a akun twitter terkait dengan kampanye presiden dari saingan Trump Ron DeSantis. Sebuah iklan serang menargetkan kampanye 2024 Joe Biden yang diterbitkan oleh Komite Nasional Partai Republik seluruhnya dibuat dengan AI.
Pada Proyek DeFake, Kami Penelitian telah menemukan bahwa deepfake, termasuk situasi, biasanya dibuat oleh beberapa campuran menambahkan satu bagian dari media dengan yang lain; menggunakan video untuk menganimasikan gambar atau mengubah video lain, dijuluki dalang; menyulap sepotong media menjadi ada, biasanya menggunakan AI generatif; atau beberapa kombinasi dari teknik ini.
Untuk lebih jelasnya, banyak situasi deepfake dibuat untuk tujuan yang tidak bersalah. Misalnya, Majalah Odyssey Tak Terbatas menghasilkan gambar diam palsu dari film yang tidak pernah diproduksi or tidak akan pernah ada. Tetapi bahkan deepfake yang tidak bersalah pun memberi alasan untuk jeda, seperti dalam kasus foto palsu yang hampir bisa dipercaya yang menggambarkannya Pendaratan Apollo Moon sebagai produksi film.
Memperdalam pemilihan
Sekarang tempatkan diri Anda pada posisi seseorang yang mencoba mempengaruhi pemilihan yang akan datang. Situasi apa yang mungkin ingin Anda ciptakan?
Sebagai permulaan, penting apakah Anda ingin memiringkan pemungutan suara ke arah atau menjauh dari hasil tertentu. Mungkin Anda akan menggambarkan seorang kandidat yang bertindak heroik dengan menarik pejalan kaki keluar dari jalur mobil yang melaju kencang atau, sebaliknya, melakukan sesuatu yang ofensif atau kriminal. Format situasi deepfake juga penting. Alih-alih video, itu bisa berupa foto, mungkin dengan keburaman dan sudut yang menyimulasikan kamera smartphone atau logo kantor berita yang dipalsukan.
Audiens target Anda akan menjadi kuncinya. Daripada membidik pemilih umum atau basis partai, Anda mungkin menargetkan ahli teori konspirasi di distrik pemungutan suara utama. Anda dapat menggambarkan kandidat atau anggota keluarganya terlibat dalam a ritual setan, berpartisipasi dalam festival di eksklusif dan kontroversial Bohemian Grove, atau memiliki pertemuan rahasia dengan makhluk luar angkasa.
Jika Anda memiliki ambisi dan kemampuan untuk itu, Anda bahkan dapat mencoba memalsukan pemilu itu sendiri. Pada Juni 2023, stasiun televisi dan radio Rusia diretas dan menyiarkan perintah mobilisasi penuh oleh deepfake dari Presiden Rusia Vladimir Putin. Meskipun ini akan lebih sulit dilakukan dalam pemilihan AS, pada prinsipnya setiap outlet berita dapat diretas untuk menyiarkan deepfake dari jangkar mereka yang mengumumkan hasil yang salah atau kandidat yang kebobolan.
Mempertahankan kenyataan
Ada berbagai cara teknologi dan psikologis untuk mendeteksi dan mempertahankan situasi deepfake.
Di bidang teknologi, semua deepfake mengandung beberapa bukti tentang sifat aslinya. Beberapa di antaranya dapat dilihat oleh mata manusia – seperti kulit yang terlalu halus atau pencahayaan atau arsitektur yang aneh – sementara yang lain mungkin hanya dapat dideteksi oleh AI pemburu deepfake.
Kami sedang membangun DeFakeDetektor untuk menggunakan AI untuk menangkap tanda-tanda deepfake, dan kami berupaya untuk menyiapkannya tepat waktu untuk pemilu 2024. Tetapi bahkan jika pendeteksi deepfake yang cukup kuat seperti milik kami tidak dapat digunakan pada Hari Pemilihan, ada alat psikologis yang dapat Anda, sebagai pemilih, gunakan untuk mengidentifikasi deepfake: pengetahuan latar belakang, keingintahuan, dan skeptisisme yang sehat.
Jika Anda menemukan konten media tentang seseorang, tempat, atau peristiwa yang tampak tidak seperti biasanya, percayalah pada latar belakang pengetahuan Anda. Misalnya, dalam sebuah tipuan baru-baru ini tentang kebakaran di Pentagon, bangunan yang ditampilkan terlihat lebih persegi daripada segi lima, yang bisa jadi hadiah.
Namun, cobalah untuk tidak bergantung sepenuhnya pada latar belakang pengetahuan Anda, yang bisa salah atau tidak merata. Jangan pernah takut untuk belajar lebih banyak dari sumber yang dapat dipercaya, seperti laporan berita yang diperiksa faktanya, artikel akademis yang ditinjau oleh rekan sejawat, atau wawancara dengan pakar tepercaya.
Selain itu, ketahuilah bahwa deepfake dapat digunakan untuk memanfaatkan diri Anda cenderung percaya tentang seseorang, tempat atau peristiwa. Salah satu cara terbaik untuk mengatasinya adalah dengan sederhana waspadai bias Anda dan berhati-hatilah dengan konten media apa pun yang tampaknya membenarkannya.
Bahkan jika menjadi mungkin untuk membuat deepfake situasi yang sempurna, seberapa dapat dipercaya materi pelajaran mereka, kemungkinan besar akan tetap menjadi kelemahan mereka. Jadi, dengan atau tanpa solusi teknologi, Anda tetap memiliki kekuatan untuk mempertahankan pemilu dari pengaruh acara palsu.
Tentang Penulis
Christopher Schwartz, Asosiasi Riset Pascadoktoral Keamanan Komputasi, Rochester Institute of Technology
Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.
Buku terkait:
Tentang Tirani: Dua Puluh Pelajaran dari Abad Kedua Puluh
oleh Timotius Snyder
Buku ini menawarkan pelajaran dari sejarah untuk menjaga dan mempertahankan demokrasi, termasuk pentingnya institusi, peran individu warga negara, dan bahaya otoritarianisme.
Klik untuk info lebih lanjut atau untuk memesan
Waktu Kita Sekarang: Kekuatan, Tujuan, dan Perjuangan untuk Amerika yang Adil
oleh Stacey Abrams
Penulis, seorang politikus dan aktivis, membagikan visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktis untuk keterlibatan politik dan mobilisasi pemilih.
Klik untuk info lebih lanjut atau untuk memesan
Bagaimana Demokrasi Mati
oleh Steven Levitsky dan Daniel Ziblatt
Buku ini membahas tanda-tanda peringatan dan penyebab kehancuran demokrasi, dengan mengambil studi kasus dari seluruh dunia untuk menawarkan wawasan tentang bagaimana melindungi demokrasi.
Klik untuk info lebih lanjut atau untuk memesan
The People, No: Sejarah Singkat Anti-Populisme
oleh Thomas Frank
Penulis menawarkan sejarah gerakan populis di Amerika Serikat dan mengkritik ideologi "anti-populis" yang menurutnya telah menghambat reformasi dan kemajuan demokrasi.
Klik untuk info lebih lanjut atau untuk memesan
Demokrasi dalam Satu Buku atau Kurang: Cara Kerjanya, Mengapa Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Pikirkan
oleh David Litt
Buku ini menawarkan ikhtisar demokrasi, termasuk kekuatan dan kelemahannya, dan mengusulkan reformasi untuk membuat sistem lebih responsif dan akuntabel.
