Akun bot sosial yang khas. CC B

Platform media sosial telah menjadi lebih dari sekedar alat komunikasi. Mereka telah berkembang menjadi arena ramai tempat kebenaran dan kepalsuan bertabrakan. Di antara platform-platform ini, X menonjol sebagai a medan pertempuran yang menonjol. Ini adalah tempat di mana kampanye disinformasi berkembang pesat, yang diabadikan oleh pasukan bot bertenaga AI yang diprogram untuk mempengaruhi opini publik dan memanipulasi narasi.

Bot yang didukung AI adalah akun otomatis yang dirancang untuk meniru perilaku manusia. Bot di media sosial, platform obrolan, dan AI percakapan merupakan bagian integral dari kehidupan modern. Misalnya, mereka diperlukan untuk membuat aplikasi AI berjalan secara efektif.

Namun beberapa bot dibuat dengan niat jahat. Yang mengejutkan, bot merupakan bagian penting dari basis pengguna X. Pada tahun 2017 diperkirakan bahwa terdapat sekitar 23 juta bot sosial atau 8.5% dari total pengguna. Lebih dari dua pertiga tweet berasal dari akun otomatis ini, memperkuat jangkauan disinformasi dan memperkeruh wacana publik.

Cara kerja bot

Pengaruh sosial kini menjadi komoditas yang dapat diperoleh dengan membeli bot. Perusahaan menjual pengikut palsu untuk meningkatkan popularitas akun secara artifisial. Pengikut ini tersedia dengan harga yang sangat rendah, dengan banyak selebriti di antara pembelinya.

Dalam penelitian kami, misalnya, saya dan rekan kerja mendeteksi bot yang memposting 100 tweet yang menawarkan penjualan pengikut.

Menggunakan metodologi AI dan pendekatan teoritis disebut teori aktor-jaringan, saya dan rekan-rekan saya membedah bagaimana bot sosial yang jahat memanipulasi media sosial, memengaruhi apa yang orang pikirkan dan bagaimana mereka bertindak dengan efektivitas yang mengkhawatirkan. Kita dapat mengetahui apakah berita palsu dihasilkan oleh manusia atau bot dengan tingkat akurasi 79.7%. Penting untuk memahami cara manusia dan AI menyebarkan disinformasi agar dapat memahami cara manusia memanfaatkan AI untuk menyebarkan misinformasi.

Sebagai contoh, kami memeriksa aktivitas akun bernama “True Trumpers” di Twitter.

Akun tersebut dibuat pada bulan Agustus 2017, tidak memiliki pengikut dan gambar profil, namun pada saat penelitian dilakukan, ia telah memposting 4,423 tweet. Ini termasuk serangkaian cerita yang sepenuhnya dibuat-buat. Perlu diketahui bahwa bot ini berasal dari negara Eropa Timur.

Aliran berita palsu dari akun bot. Buzzfeed, CC BY

Penelitian seperti ini mempengaruhi X untuk membatasi aktivitas bot sosial. Menanggapi ancaman manipulasi media sosial, X telah menerapkan batas membaca sementara untuk membatasi pengumpulan dan manipulasi data. Akun yang terverifikasi dibatasi untuk membaca 6,000 postingan sehari, sedangkan akun yang tidak terverifikasi dapat membaca 600 postingan sehari. Ini adalah pembaruan baru, jadi kami belum tahu apakah ini efektif.

Bisakah kita melindungi diri kita sendiri?

Namun, tanggung jawab pada akhirnya berada pada pengguna untuk berhati-hati dan membedakan kebenaran dari kepalsuan, khususnya selama periode pemilu. Dengan mengevaluasi informasi secara kritis dan memeriksa sumber, pengguna dapat berperan dalam melindungi integritas proses demokrasi dari serangan bot dan kampanye disinformasi di X. Faktanya, setiap pengguna adalah pembela kebenaran dan demokrasi di garis depan. Kewaspadaan, pemikiran kritis, dan skeptisisme yang sehat merupakan senjata yang sangat penting.

Dengan media sosial, penting bagi pengguna untuk memahami strategi yang digunakan oleh akun jahat.

Pelaku kejahatan sering kali menggunakan jaringan bot untuk memperkuat narasi palsu, memanipulasi tren, dan dengan cepat menyebarkan informasi yang salah. Pengguna harus berhati-hati saat menghadapi akun yang menunjukkan perilaku mencurigakan, seperti postingan berlebihan atau pesan berulang.

Disinformasi juga sering disebarkan melalui situs berita palsu khusus. Ini dirancang untuk meniru sumber berita yang kredibel. Pengguna disarankan untuk memverifikasi keaslian sumber berita dengan melakukan referensi silang informasi dengan sumber terpercaya dan berkonsultasi dengan organisasi pengecekan fakta.

Kesadaran diri adalah bentuk perlindungan lain, terutama dari taktik rekayasa sosial. Manipulasi psikologis sering kali digunakan untuk menipu pengguna agar mempercayai kebohongan atau terlibat dalam tindakan tertentu. Pengguna harus tetap waspada dan menilai secara kritis konten yang mereka temui, terutama selama periode sensitivitas tinggi seperti pemilu.

Dengan tetap mendapatkan informasi, terlibat dalam wacana sipil, dan mengadvokasi transparansi dan akuntabilitas, kita secara kolektif dapat membentuk ekosistem digital yang menumbuhkan kepercayaan, transparansi, dan pengambilan keputusan yang tepat.

Nick Hajli, Ahli Strategi AI dan Profesor Strategi Digital, Loughborough University

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait:

Tentang Tirani: Dua Puluh Pelajaran dari Abad Kedua Puluh

oleh Timotius Snyder

Buku ini menawarkan pelajaran dari sejarah untuk menjaga dan mempertahankan demokrasi, termasuk pentingnya institusi, peran individu warga negara, dan bahaya otoritarianisme.

Klik untuk info lebih lanjut atau untuk memesan

Waktu Kita Sekarang: Kekuatan, Tujuan, dan Perjuangan untuk Amerika yang Adil

oleh Stacey Abrams

Penulis, seorang politikus dan aktivis, membagikan visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktis untuk keterlibatan politik dan mobilisasi pemilih.

Klik untuk info lebih lanjut atau untuk memesan

Bagaimana Demokrasi Mati

oleh Steven Levitsky dan Daniel Ziblatt

Buku ini membahas tanda-tanda peringatan dan penyebab kehancuran demokrasi, dengan mengambil studi kasus dari seluruh dunia untuk menawarkan wawasan tentang bagaimana melindungi demokrasi.

Klik untuk info lebih lanjut atau untuk memesan

The People, No: Sejarah Singkat Anti-Populisme

oleh Thomas Frank

Penulis menawarkan sejarah gerakan populis di Amerika Serikat dan mengkritik ideologi "anti-populis" yang menurutnya telah menghambat reformasi dan kemajuan demokrasi.

Klik untuk info lebih lanjut atau untuk memesan

Demokrasi dalam Satu Buku atau Kurang: Cara Kerjanya, Mengapa Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Pikirkan

oleh David Litt

Buku ini menawarkan ikhtisar demokrasi, termasuk kekuatan dan kelemahannya, dan mengusulkan reformasi untuk membuat sistem lebih responsif dan akuntabel.

Klik untuk info lebih lanjut atau untuk memesan