kepalsuan yang dalam menabur keraguan 4 14
 Teknologi yang dapat menghasilkan deepfake tersedia secara luas. (Shutterstock)

Pada awal Maret, video manipulasi Presiden Ukraina Volodymyr Zelenskyy beredar. Di dalamnya, Zelenskyy yang dihasilkan secara digital memberi tahu tentara nasional Ukraina untuk menyerah. Video itu diedarkan secara online tetapi dengan cepat dibantah sebagai deepfake — video yang sangat realistis namun palsu dan dimanipulasi yang diproduksi menggunakan kecerdasan buatan.

Sementara disinformasi Rusia tampaknya memiliki dampak yang terbatas, contoh yang mengkhawatirkan ini menggambarkan konsekuensi potensial dari deepfake.

Namun, deepfake berhasil digunakan dalam teknologi bantu. Misalnya, orang yang menderita penyakit Parkinson dapat menggunakan kloning suara untuk berkomunikasi.

Deepfake digunakan dalam pendidikan: Perusahaan sintesis pidato yang berbasis di Irlandia CereProc menciptakan suara sintetis untuk John F. Kennedy, menghidupkannya kembali untuk menyampaikan pidato sejarahnya.

grafis berlangganan batin

Namun setiap koin memiliki dua sisi. Deepfake bisa sangat realistis, dan pada dasarnya tidak terdeteksi oleh mata manusia.

Oleh karena itu, teknologi kloning suara yang sama dapat digunakan untuk phishing, pencemaran nama baik, dan pemerasan. Ketika deepfake sengaja disebarkan untuk membentuk kembali opini publik, menghasut konflik sosial dan memanipulasi pemilu, mereka berpotensi merusak demokrasi.

Para peneliti di University of Washington menghasilkan deepfake dari Barack Obama.

Menyebabkan kekacauan

Deepfake didasarkan pada teknologi yang dikenal sebagai jaringan permusuhan generatif di mana dua algoritma saling melatih untuk menghasilkan gambar.

Sementara teknologi di balik deep fakes mungkin terdengar rumit, memproduksinya adalah masalah sederhana. Ada banyak aplikasi online seperti Tukar muka dan ZAO Deep Swap yang dapat menghasilkan deepfake dalam hitungan menit.

Google Colaboratory — gudang online untuk kode dalam beberapa bahasa pemrograman — termasuk contoh kode yang dapat digunakan untuk menghasilkan gambar dan video palsu. Dengan perangkat lunak yang dapat diakses ini, mudah untuk melihat bagaimana rata-rata pengguna dapat membuat kekacauan dengan deepfake tanpa menyadari potensi risiko keamanan.

Popularitas aplikasi face-swapping dan layanan online seperti Nostalgia yang Dalam menunjukkan seberapa cepat dan luas deepfake dapat diadopsi oleh masyarakat umum. Di tahun 2019, sekitar 15,000 video menggunakan deepfake terdeteksi. Dan jumlah ini diperkirakan akan meningkat.

Deepfake adalah alat yang sempurna untuk kampanye disinformasi karena mereka menghasilkan berita palsu yang dapat dipercaya yang membutuhkan waktu untuk dibantah. Sementara itu, kerusakan yang disebabkan oleh deepfake — terutama yang memengaruhi reputasi orang — seringkali berlangsung lama dan tidak dapat diubah.

Apakah melihat percaya?

Mungkin konsekuensi paling berbahaya dari deepfake adalah bagaimana mereka memberikan informasi yang salah dalam kampanye politik.

Kami melihat ini ketika Donald Trump menetapkan liputan media yang tidak menarik sebagai “berita palsu.” Dengan menuduh para pengkritiknya menyebarkan berita palsu, Trump dapat menggunakan informasi yang salah untuk membela kesalahannya dan sebagai alat propaganda.

Strategi Trump memungkinkan dia untuk mempertahankan dukungan di lingkungan yang penuh dengan ketidakpercayaan dan disinformasi dengan mengklaim “bahwa peristiwa dan kisah nyata adalah berita palsu atau deepfake. "

Kredibilitas otoritas dan media sedang dirusak, menciptakan iklim ketidakpercayaan. Dan dengan meningkatnya proliferasi deepfake, politisi dapat dengan mudah menyangkal kesalahan dalam setiap skandal yang muncul. Bagaimana identitas seseorang dalam sebuah video dapat dikonfirmasi jika mereka menyangkalnya?

Memerangi disinformasi, bagaimanapun, selalu menjadi tantangan bagi demokrasi ketika mereka mencoba untuk menegakkan kebebasan berbicara. Kemitraan manusia-AI dapat membantu menangani peningkatan risiko deepfake dengan meminta orang memverifikasi informasi. Memperkenalkan undang-undang baru atau menerapkan undang-undang yang ada untuk menghukum produsen deepfake karena memalsukan informasi dan meniru identitas orang juga dapat dipertimbangkan.

Pendekatan multidisiplin oleh pemerintah internasional dan nasional, perusahaan swasta dan organisasi lain semuanya penting untuk melindungi masyarakat demokratis dari informasi palsu.Percakapan

Tentang Penulis

Sze-Fung Lee, Asisten Peneliti, Departemen Studi Informasi, McGill University dan Benjamin CM Fung, Profesor dan Ketua Riset Kanada dalam Penambangan Data untuk Keamanan Siber, McGill University

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.