Detektor bertenaga AI adalah alat terbaik untuk mengenali video palsu yang dibuat oleh AI. The Washington Post melalui Getty Images

Seorang jurnalis investigasi menerima video dari pelapor anonim. Ini menunjukkan seorang calon presiden mengakui aktivitas ilegal. Tapi apakah video ini nyata? Jika demikian, itu akan menjadi berita besar - berita sekali seumur hidup - dan dapat sepenuhnya membalikkan pemilu yang akan datang. Tetapi jurnalis menjalankan video melalui alat khusus, yang mengatakan kepadanya bahwa video tersebut tidak seperti yang terlihat. Faktanya, ini adalah "deepfake, ”Video yang dibuat menggunakan kecerdasan buatan dengan belajar mendalam.

Wartawan di seluruh dunia bisa segera menggunakan alat seperti ini. Dalam beberapa tahun, alat seperti ini bahkan dapat digunakan oleh semua orang untuk membasmi konten palsu di umpan media sosial mereka.

As peneliti yang telah mempelajari deteksi deepfake dan mengembangkan alat untuk jurnalis, kami melihat masa depan alat ini. Namun, mereka tidak akan menyelesaikan semua masalah kita, dan mereka hanya akan menjadi satu bagian dari persenjataan dalam perang yang lebih luas melawan disinformasi.

Masalah dengan deepfakes

Kebanyakan orang tahu bahwa Anda tidak dapat mempercayai semua yang Anda lihat. Selama beberapa dekade terakhir, konsumen berita yang paham telah terbiasa melihat gambar yang dimanipulasi dengan perangkat lunak pengedit foto. Video, bagaimanapun, adalah cerita lain. Sutradara Hollywood dapat menghabiskan jutaan dolar untuk efek khusus untuk membuat adegan yang realistis. Tetapi menggunakan deepfake, amatir dengan beberapa ribu dolar peralatan komputer dan menghabiskan beberapa minggu dapat membuat sesuatu yang hampir sama nyata dalam hidup.

Deepfake memungkinkan orang memasukkan adegan film yang tidak pernah mereka ikuti - pikir Tom Cruise memainkan Iron Man - yang membuat video menghibur. Sayangnya, itu juga memungkinkan untuk dibuat pornografi tanpa persetujuan dari orang-orang yang digambarkan. Sejauh ini, orang-orang tersebut, hampir semuanya wanita, adalah korban terbesar ketika teknologi deepfake disalahgunakan.

Deepfake juga dapat digunakan untuk membuat video tentang pemimpin politik yang mengatakan hal-hal yang tidak pernah mereka katakan. Partai Sosialis Belgia merilis video nondeepfake berkualitas rendah tetapi masih palsu Presiden Trump menghina Belgia, yang mendapat cukup reaksi untuk menunjukkan potensi risiko dari deepfake berkualitas lebih tinggi.

{disematkan Y=poSd2CyDpyA}
Hany Farid dari University of California, Berkeley menjelaskan bagaimana deepfake dibuat.

Mungkin paling menakutkan dari semuanya, mereka dapat digunakan untuk membuat keraguan tentang konten video sebenarnya, dengan menyarankan bahwa mereka bisa jadi deepfakes.

Mengingat risiko ini, akan sangat berharga untuk dapat mendeteksi deepfake dan memberinya label dengan jelas. Ini akan memastikan bahwa video palsu tidak membodohi publik, dan video asli dapat dianggap asli.

Mengenali barang palsu

Deteksi deepfake sebagai bidang penelitian dimulai sedikit lagi tiga tahun lalu. Pekerjaan awal difokuskan untuk mendeteksi masalah yang terlihat dalam video, seperti deepfake yang tidak berkedip. Seiring waktu, bagaimanapun, palsu menjadi lebih baik meniru video nyata dan menjadi lebih sulit dikenali oleh orang dan alat pendeteksi.

Ada dua kategori utama penelitian deteksi deepfake. Yang pertama melibatkan melihat perilaku orang di video. Misalkan Anda memiliki banyak video orang terkenal, seperti Presiden Obama. Kecerdasan buatan dapat menggunakan video ini untuk mempelajari polanya, mulai dari gerakan tangan hingga jeda saat berbicara. Itu bisa perhatikan deepfake dari dia dan perhatikan di mana tidak cocok dengan pola-pola itu. Pendekatan ini memiliki keuntungan karena dapat berfungsi meskipun kualitas videonya sendiri pada dasarnya sempurna.

{vembed Y=gsv1OsCEad0}
Aaron Lawson dari SRI International menjelaskan satu pendekatan untuk mendeteksi deepfakes.

Peneliti lain, termasuk tim kami, telah difokuskan perbedaan bahwa semua deepfake punya dibandingkan dengan video nyata. Video deepfake sering kali dibuat dengan menggabungkan frame yang dihasilkan secara individual untuk membentuk video. Mempertimbangkan hal itu, metode tim kami mengekstrak data penting dari wajah dalam bingkai video individual dan kemudian melacaknya melalui rangkaian bingkai yang bersamaan. Hal ini memungkinkan kami untuk mendeteksi ketidakkonsistenan aliran informasi dari satu frame ke frame lainnya. Kami juga menggunakan pendekatan serupa untuk sistem deteksi audio palsu kami.

Detail halus ini sulit dilihat orang, tetapi menunjukkan betapa deepfake tidak cukup sempurna. Detektor seperti ini dapat bekerja untuk siapa saja, tidak hanya untuk beberapa pemimpin dunia. Pada akhirnya, mungkin saja kedua jenis detektor deepfake akan dibutuhkan.

Sistem deteksi terbaru bekerja sangat baik pada video yang secara khusus dikumpulkan untuk mengevaluasi alat. Sayangnya, bahkan model terbaik sekalipun buruk pada video yang ditemukan online. Meningkatkan alat ini agar lebih kuat dan bermanfaat adalah langkah kunci berikutnya.

Siapa yang harus menggunakan detektor deepfake?

Idealnya, alat verifikasi deepfake harus tersedia untuk semua orang. Namun, teknologi ini masih dalam tahap awal pengembangan. Peneliti perlu meningkatkan alat dan melindunginya dari peretas sebelum merilisnya secara luas.

Namun, pada saat yang sama, alat untuk membuat deepfake tersedia bagi siapa saja yang ingin menipu publik. Duduk di pinggir lapangan bukanlah pilihan. Bagi tim kami, keseimbangan yang tepat adalah bekerja dengan jurnalis, karena mereka adalah garis pertahanan pertama terhadap penyebaran informasi yang salah.

Sebelum menerbitkan berita, wartawan perlu memverifikasi informasi. Mereka sudah memiliki metode mencoba-dan-benar, seperti memeriksa dengan sumber dan meminta lebih dari satu orang untuk memverifikasi fakta-fakta kunci. Jadi dengan meletakkan alat ini ke tangan mereka, kami memberi mereka lebih banyak informasi, dan kami tahu bahwa mereka tidak akan bergantung pada teknologi saja, mengingat hal itu dapat membuat kesalahan.

Bisakah detektor memenangkan perlombaan senjata?

Sangat menggembirakan melihat tim dari Facebook dan Microsoft berinvestasi dalam teknologi untuk memahami dan mendeteksi deepfakes. Bidang ini membutuhkan lebih banyak penelitian untuk mengikuti kecepatan kemajuan teknologi deepfake.

Jurnalis dan platform media sosial juga perlu mencari cara terbaik untuk memperingatkan orang-orang tentang deepfake saat mereka terdeteksi. Penelitian telah menunjukkan itu orang mengingat kebohongan itu, tapi bukan fakta bahwa itu bohong. Akankah hal yang sama berlaku untuk video palsu? Hanya dengan menempatkan "Deepfake" di judul mungkin tidak cukup untuk melawan beberapa jenis disinformasi.

Deepfake akan tetap ada. Mengelola disinformasi dan melindungi publik akan menjadi lebih menantang dari sebelumnya karena kecerdasan buatan semakin kuat. Kami adalah bagian dari komunitas penelitian yang sedang berkembang yang menghadapi ancaman ini, di mana deteksi hanyalah langkah pertama.

Tentang Penulis

John Sohrawardi, Mahasiswa Doktor dalam Ilmu Komputer dan Informasional, Rochester Institute of Technology dan Matthew Wright, Profesor Keamanan Komputasi, Rochester Institute of Technology

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca ^asli artikel.