William Perugini/Shutterstock

Dari sekian banyak “risiko besar terhadap masyarakat dan kemanusiaan” yang membuat para pakar teknologi khawatir dengan kecerdasan buatan (AI), penyebaran gambar palsu adalah salah satu hal yang akrab dengan pengguna internet sehari-hari.

Deepfakes – video atau foto di mana wajah atau tubuh seseorang telah diubah secara digital sehingga mereka tampak melakukan sesuatu yang sebenarnya tidak mereka lakukan – telah digunakan untuk menyebarluaskan disinformasi politik dan pornografi palsu.

Gambar-gambar ini biasanya berbahaya dan digunakan untuk mendiskreditkan subjek. Terkait pornografi deepfake, sebagian besar korbannya adalah perempuan. AI Generatif – teknologi yang digunakan untuk membuat teks, gambar, dan video – adalah sudah membuat pelecehan seksual berbasis gambar lebih mudah dilakukan.

Sebuah baru seperangkat hukum di Inggris, akan mengkriminalisasi penyebaran pornografi deepfake. Namun dengan perhatian terhadap AI dan deepfake, kita tidak bisa melupakan betapa teknologi yang kurang canggih dapat digunakan sebagai alat penyalahgunaan, yang mempunyai konsekuensi yang sangat buruk bagi para korbannya.

Teknologi dan kontrol

Ketika saya memulai penelitian saya tentang teknologi dalam hubungan yang penuh kekerasan, deepfake hanyalah sebuah hal yang akan segera terjadi. Pekerjaan saya terfokus pada peran ponsel pintar dalam pelecehan terhadap wanita yang melarikan diri dari hubungan yang mengendalikan. Saya menemukan bahwa para pelaku kekerasan dalam rumah tangga menggunakan teknologi untuk memperluas jangkauan kekuasaan dan kendali mereka terhadap pasangannya, sebuah taktik modern dalam menghadapi kekerasan yang digunakan. jauh sebelum ponsel pintar ada di setiap saku.

Ponsel dapat digunakan secara langsung untuk memantau dan mengendalikan, menggunakan pelacakan GPS atau dengan membombardir korban dengan teks, video, dan panggilan suara. Salah satu peserta di saya penelitian di 2019 menjelaskan bagaimana pasangannya yang melakukan kekerasan menggunakan ponselnya untuk mengakses media sosial, mengirimkan gambar-gambar yang menyinggung melalui Instagram dan pesan-pesan WhatsApp yang terus-menerus dan menyinggung.

Ketika dia keluar bersama teman-temannya, pertama-tama dia akan mengirim pesan teks, menelepon, dan kemudian melakukan panggilan video terus-menerus untuk memeriksa di mana dia berada dan untuk melihat dengan siapa dia. Ketika peserta mematikan teleponnya, pasangannya menghubungi teman-temannya, membombardir mereka dengan SMS dan telepon.

Peserta ini merasa terlalu malu untuk mengatur pertemuan dengan kelompok sebayanya sehingga berhenti keluar. Orang lain yang berada dalam situasi serupa mungkin dikecualikan dari rencana sosial, jika teman mereka ingin menghindari kontak dengan pelaku kekerasan terhadap temannya. Isolasi sosial seperti ini sering terjadi dalam kekerasan dalam rumah tangga dan merupakan indikator penting dalam mengendalikan hubungan.

Menurut badan amal kekerasan dalam rumah tangga, Refuge, lebih dari 72% orang yang menggunakan layanannya melaporkan penyalahgunaan yang melibatkan teknologi.

Ponsel adalah pintu gerbang ke gadget lain, melalui “internet of things” – perangkat yang terhubung ke web dan dapat bertukar data. Alat-alat ini juga dapat dijadikan senjata oleh para pelaku kekerasan. Misalnya saja menggunakan ponsel untuk mengubah pengaturan suhu pada termostat rumah tangga, menyebabkan suhu ekstrem dari satu jam ke jam berikutnya.

Bingung dengan hal ini, orang mencari penjelasan dari pasangannya hanya untuk diberitahu bahwa ini pasti hanya isapan jempol belaka. Teknik penerangan gas Hal seperti ini membuat para korban mempertanyakan kewarasan mereka sendiri sehingga melemahkan kepercayaan diri mereka terhadap penilaian mereka sendiri.

Panoptikon modern

Hanya dengan mengklik satu tombol, ponsel memungkinkan pengawasan terhadap orang lain yang belum pernah terjadi sebelumnya. Di saku pelaku, mereka dapat digunakan untuk mengawasi pasangan saat ini dan mantan pasangannya kapan saja, di mana saja dan – jika ada sinyal – di mana saja. Hal ini memberikan pelaku a kekuatan kemahakuasaan, membuat korban percaya bahwa mereka sedang diawasi padahal sebenarnya tidak.

Hal ini mengingatkan kita pada karya filsuf abad ke-18 Jeremy Bentham, yang memperkenalkan konsep “panopticon”. Bentham mengusulkan sistem penjara yang “sempurna”, di mana menara penjaga berada di tengah, dikelilingi oleh sel-sel individual.

Terisolasi satu sama lain, para tahanan hanya akan melihat menara – sebuah pengingat bahwa mereka diawasi secara permanen, meskipun mereka tidak dapat melihat penjaga di dalamnya. Bentham percaya struktur seperti itu akan mengakibatkan pengawasan diri para tahanan sampai akhirnya tidak diperlukan lagi kunci atau jeruji.

Penelitian terbaru saya menunjukkan bahwa ponsel telah menciptakan dinamika serupa dalam hubungan yang penuh kekerasan. Telepon berperan sebagai menara, dan pelaku berperan sebagai penjaga di dalamnya.

Dalam panoptikon modern ini, korban dapat berada di luar dan terlihat oleh orang asing, teman, dan keluarga. Namun karena kehadiran telepon, mereka merasa masih diawasi dan dikendalikan oleh pasangannya yang melakukan kekerasan.

Seperti yang dikatakan oleh salah satu peserta: “Anda merasa tidak ada kebebasan bahkan ketika Anda berada di luar. Anda merasa seperti terkurung di suatu tempat, Anda tidak memiliki kebebasan, seseorang mengendalikan Anda.”

Para penyintas pelecehan terus memantau diri mereka sendiri meski pelakunya tidak ada. Mereka bertindak dengan cara yang mereka yakini akan menyenangkan (atau setidaknya tidak membuat marah) pelaku kekerasan.

Perilaku ini sering dianggap aneh oleh orang lain, dan mudah dianggap sebagai paranoia, kecemasan, atau masalah kesehatan mental yang lebih serius. Fokusnya adalah pada perilaku korban dan mengabaikan penyebabnya – perilaku kasar atau kriminal yang dilakukan pasangannya.

Seiring dengan semakin canggihnya teknologi, alat dan strategi yang tersedia bagi para pelaku penyalahgunaan akan terus berkembang. Hal ini akan memperluas jangkauan pelaku dan memberikan peluang baru untuk melakukan pengawasan, penyalaan gas, dan pelecehan.

Sampai perusahaan teknologi mempertimbangkan pengalaman para penyintas kekerasan dalam rumah tangga dan memasukkan mekanisme keselamatan ke dalam desain produk mereka, kekerasan akan terus terjadi tersembunyi di depan mata.

Tirion Havard, Associate Professor Pekerjaan Sosial, London South Bank University

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.