Shutterstock

Facebook telah untuk pertama kalinya membuat data tersedia di internet skala komentar kasar diposting ke situsnya. Ini mungkin telah dilakukan di bawah tekanan yang terus meningkat oleh organisasi untuk perusahaan media sosial untuk menjadi lebih banyak transparan tentang penyalahgunaan online, atau untuk mendapatkan kredibilitas setelah Skandal data Cambridge Analytica. Either way, angka-angka tidak membuat untuk membaca menyenangkan.

In periode enam bulan mulai dari 2017 bulan Oktober hingga 20178 bulan Maret, 21m gambar seksual vulgar, 3.5m dengan tulisan kekerasan grafis dan bentuk-bentuk ucapan kebencian 2.5m telah dihapus dari situsnya. Angka-angka ini membantu mengungkapkan beberapa poin yang mencolok.

Seperti yang diharapkan, data menunjukkan bahwa masalahnya semakin buruk. Misalnya, antara Januari dan Maret diperkirakan bahwa untuk setiap pesan 10,000 online, antara 22 dan 27 berisi kekerasan grafis, naik dari 16 ke 19 dalam tiga bulan sebelumnya. Hal ini menjadi bukti nyata bahwa di Inggris, penuntutan untuk penyalahgunaan online telah menurun, seperti yang ditunjukkan dalam grafik di bawah ini.

Namun apa yang belum dikatakan oleh Facebook sama pentingnya.

Jejaring sosial telah di bawah tekanan yang terus meningkat untuk memerangi penyalahgunaan di situsnya, khususnya, penghapusan propaganda teroris setelah peristiwa seperti serangan 2017 Westminster dan pemboman Manchester Arena. Di sini, perusahaan telah proaktif. Antara Januari dan Maret 2018, Facebook menghapus pesan 1.9m yang mendorong propaganda teroris, peningkatan komentar 800,000 dibandingkan dengan tiga bulan sebelumnya. Sebanyak 99.5% dari pesan-pesan ini ditempatkan dengan bantuan teknologi maju.

Sepintas, sepertinya Facebook telah berhasil mengembangkan perangkat lunak yang dapat menghapus konten ini dari servernya. Namun Facebook belum merilis angka yang menunjukkan bagaimana teroris yang lazim propaganda ada di situsnya. Jadi kami benar-benar tidak tahu seberapa sukses perangkat lunak dalam hal ini.

Menghapus pos kekerasan

Facebook juga telah menggunakan teknologi untuk membantu penghapusan kekerasan grafis dari situsnya. Antara dua periode tiga bulan ada peningkatan 183% dalam jumlah pos yang dihapus yang dilabeli dengan kekerasan grafis. Sebanyak 86% dari komentar ini ditandai oleh sistem komputer.

Tetapi kita juga tahu bahwa angka-angka di Facebook juga menunjukkan bahwa hingga 27 dari setiap komentar 10,000 yang berhasil melewati teknologi pendeteksian mengandung kekerasan grafis. Itu tidak terdengar seperti banyak, tetapi ada baiknya mempertimbangkan banyaknya komentar yang diposting ke situs ini oleh lebih dari 2 miliar pengguna aktif. Satu perkiraan menunjukkan bahwa komentar 510,000 diposting setiap menit. Jika akurat, itu artinya komentar kekerasan 1,982,880 diposkan setiap 24 jam.

Untuk menebus kegagalan dalam perangkat lunak pendeteksiannya, Facebook, seperti jejaring sosial lainnya, selama bertahun-tahun bergantung pada pengaturan mandiri, dengan pengguna didorong untuk laporkan komentar mereka percaya seharusnya tidak ada di situs. Misalnya, antara Januari dan Maret 2018, Facebook menghapus komentar 2.5m yang dianggap sebagai perkataan yang mendorong kebencian, namun hanya 950,000 (38%) dari pesan-pesan ini yang telah ditandai oleh sistemnya. Itu 62% lainnya dilaporkan oleh pengguna. Ini menunjukkan bahwa teknologi Facebook gagal untuk secara memadai memerangi perkataan yang mendorong kebencian di jaringannya, meskipun ada kekhawatiran yang berkembang pada situs jejaring sosial adalah bahan bakar kejahatan kebencian di dunia nyata.

Berapa banyak komentar yang dilaporkan?

Ini membawa kita ke angka penting lainnya yang tidak termasuk dalam data yang dirilis oleh Facebook: jumlah komentar yang dilaporkan oleh pengguna. Karena ini adalah mekanisme fundamental dalam menangani penyalahgunaan online, jumlah laporan yang dibuat ke perusahaan harus tersedia untuk umum. Ini akan memungkinkan kita untuk memahami sepenuhnya komentar kasar yang dibuat secara online, sambil membuat jelas jumlah total pesan yang tidak dihapus Facebook dari situs.

Keputusan Facebook untuk merilis data yang mengekspos skala penyalahgunaan di situsnya merupakan langkah maju yang signifikan. Twitter, sebaliknya, diminta untuk informasi serupa tetapi menolak untuk melepaskannya, mengklaim itu akan menyesatkan. Jelas, tidak semua komentar yang ditandai oleh pengguna situs jejaring sosial akan melanggar syarat dan ketentuannya. Tetapi kegagalan Twitter untuk merilis informasi ini menunjukkan bahwa perusahaan tidak mau mengungkapkan skala penyalahgunaan di situsnya sendiri.

Namun, bahkan Facebook masih memiliki jalan panjang untuk mendapatkan transparansi total. Idealnya, semua situs jejaring sosial akan merilis laporan tahunan tentang cara mereka menangani penyalahgunaan secara online. Ini akan memungkinkan regulator dan masyarakat untuk memegang perusahaan lebih langsung ke akun untuk kegagalan untuk menghapus penyalahgunaan online dari server mereka.

Tentang Penulis

Laura Bliss, kandidat PhD dalam hukum media sosial, Edge Hill University

Artikel ini awalnya diterbitkan pada Percakapan. Membaca Artikel asli.

Buku terkait:

at Pasar InnerSelf dan Amazon