Perusahaan swasta mengawasi kebencian online tanpa pengawasan atau regulasi independen, yang memiliki implikasi serius dan menimbulkan risiko bagi hak asasi manusia dan kebebasan dasar. (Shutterstock)

Pawai yang diterangi obor oleh supremasi kulit putih bersenjata baru-baru ini di Charlottesville, Va., Terus menghasilkan perdebatan tentang bagaimana kelompok-kelompok kebencian harus diatur. Di tengah tekanan publik yang meningkat setelah pawai, perusahaan internet bergegas untuk menghapus dari situs web platform mereka mendukung pidato kebencian yang kejam.

Ayo ayah menghentikan layanan domainnya ke situs web neo-Nazi The Daily Stormer, seperti yang terjadi Google. Cloudflare, perusahaan yang melindungi situs web dari serangan online, juga dilarang situs web kebencian dari platformnya. Rusia memerintahkan situs itu dilarang dari menjadi tuan rumah di negara ini.

Penelitian saya dan buku saya Chokepoints: Regulasi Swasta Global di Internet menunjukkan bahwa banyak perusahaan internet telah menghapus konten dan melarang pengguna "secara sukarela" - yaitu, dengan tidak adanya undang-undang atau proses peradilan. Perantara utama termasuk Google, PayPal, GoDaddy, Twitter, dan Facebook secara sukarela mengawasi platform mereka untuk konten pelecehan seksual anak, ekstremisme, dan perdagangan ilegal barang-barang palsu.

Dapat dimengerti bahwa banyak orang memuji upaya ini untuk membasmi ucapan kebencian dan konten yang tidak menyenangkan lainnya. Namun, upaya perusahaan internet sebagai regulator bicara secara de facto menimbulkan pertanyaan serius: Bagaimana seharusnya konten online diatur? Oleh siapa?

Saya tidak mendukung supremasi kulit putih dan saya tidak berdebat menentang beberapa kebijakan pidato semacam itu. Sebaliknya, saya mengatakan bahwa kita perlu mempertimbangkan dengan serius bagaimana mengatur konten online karena kasus berikutnya mungkin tidak jelas.

Ada masalah signifikan dengan mengandalkan perusahaan yang kuat untuk mengawasi internet karena praktik penegakan hukum mereka buram dan rentan terhadap interpretasi yang sewenang-wenang.

Preseden yang mengganggu

Berbeda sekali dengan sorak-sorai perusahaan internet karena oposisi publik mereka terhadap Daily Stormer, CEO Cloudflare, Matthew Prince, menawarkan perspektif yang bernuansa hati-hati, memperingatkan bahwa menarik layanan dari kelompok-kelompok kebencian sebagai tanggapan terhadap tekanan publik menjadi preseden yang meresahkan dalam mengatur pidato online .

Di sebuah posting blog menjelaskan tindakan Cloudflare terhadap Daily Stormer, Prince berpendapat bahwa perusahaan menganggap proses hukum sebagai "prinsip yang lebih penting" daripada kebebasan berbicara. Karena proses, katanya, berarti bahwa "Anda harus dapat mengetahui aturan yang akan diikuti oleh sistem jika Anda berpartisipasi dalam sistem itu." Pernyataan ini dengan tepat menangkap masalah yang melekat dengan perantara yang bekerja sebagai pengatur konten dan perilaku online secara de facto.

Awal tahun ini, Karyawan Shopify dan ratusan ribuan orang mendesak dan mengajukan petisi platform perdagangan online untuk menghentikan hosting toko internet Breitbart Media. Mengangkat kembali ketua eksekutif Stephen Bannon panggilan Breitbart "platform untuk alt-right." Yang disebut "alt-right" - istilah yang dipopulerkan oleh Richard Bertrand Spencer - Meliputi campuran supremasi kulit putih, separatis, neo-Nazi, fasis, rasis, anti-Semit, Islamofobia dan ideologi konservatif populis.

CEO Shopify, Tobias Lütke, mengatakan dia mempertahankan kebebasan berbicara sebagai perusahaan Ottawa terus menjadi tuan rumah toko online Breitbart di bawah ancaman karyawan mengundurkan diri. Setelah publik tekanan dan kampanye akar rumput dijuluki #DeleteShopify menyebabkan pemeriksaan yang mengungkapkan lebih banyak bisnis yang dipertanyakan, Shopify tadinya terpaksa untuk mengadopsi "Kebijakan penggunaan yang dapat diterima."

Contoh-contoh yang kontras dari The Daily Stormer dan penghapusannya oleh perusahaan internet, dan dukungan gigih Shopify untuk Breitbart, menunjukkan ekstrem dilema yang hanya menjanjikan untuk diintensifkan.

Kebijakan sewenang-wenang, peraturan

Perantara internet memiliki potensi untuk menjadi regulator yang kuat dalam berbagai masalah karena mereka dapat bertindak cepat dan tanpa perintah pengadilan. Yang penting, mereka memiliki kebebasan untuk menyensor konten atau melarang pengguna berdasarkan perjanjian layanan mereka.

PayPal berhak untuk menghentikan layanannya kepada pengguna “untuk alasan apa pun dan kapan saja, ”Bahasa yang didengungkan dalam perjanjian layanan sebagian besar perantara. Kapasitas untuk regulasi sewenang-wenang dimasukkan ke dalam aturan internal perantara.

Pangeran mengingatkan bahwa tindakan Cloudflare terhadap Daily Stormer menetapkan preseden bagi perantara untuk pidato polisi tanpa perintah pengadilan yang mengharuskan mereka untuk melakukannya.

Perantara ini sering bertindak atas perintah pemerintah yang lebih suka perusahaan menjadi publik (tetapi sebagian besar tidak bertanggung jawab) menghadapi regulasi internet. Tetapi firma-firma tersebut pada umumnya tidak memiliki perlengkapan untuk membedakan legalitas dari ilegalitas, menyebabkan pencopotan yang salah dan secara keliru menargetkan perilaku yang sah.

Sama-sama bermasalah: Proses penegakan perantara sering tidak jelas karena moderator konten mereka secara sewenang-wenang menginterpretasikan aturan internal mereka yang kompleks dan cepat berubah. Masalah-masalah ini diperparah oleh meningkatnya penggunaan alat otomatis oleh perantara untuk mengidentifikasi dan menghapus konten yang bermasalah pada platform mereka.

Ada juga kekhawatiran dari apa yang disebut misi-creep ketika aturan pertama kali diberlakukan terhadap pelecehan anak atau terorisme - katalis penting untuk tindakan penegakan hukum - kemudian diterapkan pada masalah-masalah lain yang jelas tidak berbahaya, seperti pengunduhan konten yang dilindungi hak cipta secara tidak sah.

Masa depan Dystopian ada di sini

Upaya pengaturan biasanya berkembang dari menyensor pidato kebencian yang kejam ke pidato lain yang mungkin dianggap kontroversial oleh beberapa orang, seperti yang dilakukan oleh Black Lives Matter. Selain itu, pemerintah di seluruh dunia secara berkala menekan perantara untuk sensor dan lacak kritik dan lawan politik.

Ketika perantara utama menjadi regulator yang bertanggung jawab untuk mengatur konten atas nama pemerintah atau sebagai respons terhadap protes tingkat tinggi, kekuatan mereka yang sudah besar meningkat. Perusahaan internet yang berbasis di AS telah mendominasi banyak sektor industri, termasuk pencarian, iklan, pendaftaran domain, pembayaran, dan media sosial. Pangeran Cloudflare dengan benar memperingatkan bahwa dengan bergantung pada "beberapa jaringan raksasa," "sejumlah kecil perusahaan akan sangat menentukan apa yang bisa dan tidak bisa online."

Masa depan dystopian ini sudah ada di sini.

Penghapusan Daily Stormer tidak diragukan lagi membuat dunia menjadi tempat yang lebih baik. Tetapi apakah kita benar-benar ingin perusahaan seperti Facebook dan Twitter untuk memutuskan - secara independen, sewenang-wenang dan diam-diam - konten apa yang dapat kita akses dan bagikan?

Mengingat masalah yang tampaknya sulit dipecahkan ini, apa yang bisa kita lakukan? Pertama, kita harus menghindari pemerintahan atas dasar protes atau tekanan media. Sebagai gantinya, kita membutuhkan seperangkat aturan yang jelas untuk memungkinkan perantara merespons secara konsisten, transparan, dan dengan hormat terhadap proses yang wajar, seperti yang disarankan Pangeran.

Pemerintah harus memperjelas sifat dan, yang terpenting, batasan tanggung jawab pengaturan perantara. Akhirnya, kita harus berhenti memerintah dalam menanggapi krisis spesifik - yang disebut "berita palsu," kelompok terorisme dan kebencian - dan sebaliknya berpikir kritis tentang bagaimana kita dapat dan harus mengatur internet.

Tentang Penulis

Natasha Tusikov, Asisten Profesor, Kriminologi, Departemen Ilmu Sosial, York University, Kanada

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait

at Pasar InnerSelf dan Amazon