Bagaimana Big Tech Merancang Aturan Etika Sendiri Untuk Menghindari Pengawasan dan Pertanggungjawaban

Bagaimana Big Tech Merancang Aturan Etika Sendiri Untuk Menghindari Pengawasan dan Pertanggungjawaban

etika data sekarang penyebab célèbre.

"Etika digital dan privasi" diluncurkan ke perusahaan riset dan penasehat Gartner's sepuluh tren teknologi strategis untuk 2019. Sebelum itu nyaris tidak disebutkan.

Dalam satu tahun terakhir pemerintah, perusahaan serta kebijakan dan teknologi lembaga think tank telah menerbitkan etika data pemandu Seluruh kohort ahli etika Data ahli telah ajaib terwujud.

Mengapa minat mendadak ini pada etika data? Apa itu etika data? Minat siapa yang menjadi pedoman pedoman untuk melayani?

Untuk memahami apa yang sedang terjadi, perlu untuk mengambil langkah mundur dan melihat bagaimana lanskap informasi telah berkembang.

Gambaran yang muncul adalah industri yang kebal dari batasan regulasi yang berlaku untuk semua orang.

Kilau sudah hilang

Selama beberapa tahun terakhir industri informasi telah kehilangan berkilau.


Dapatkan Yang Terbaru Dari Diri Sendiri


The wahyu Snowden, yang Skandal Cambridge Analytica, media sosial memungkinkan kebencian, yang persenjataan informasi dan perannya dalam merusak lembaga-lembaga demokratis semuanya berkontribusi.

Model bisnis yang memonetisasi informasi pribadi untuk menjual iklan sekarang dipandang sebagai tawaran faustian - mungkin pengorbanannya tidak sepadan. Dari 2017 untuk 2018 ada 6% penurunan pengguna Facebook di Amerika Serikat di pasar lama 12-34 yang menguntungkan.

Kekhawatiran ini telah menyebabkan panggilan untuk regulasi. Tetapi ini telah berjuang untuk mendapatkan daya tarik terhadap ortodoksi peraturan yang berlaku untuk sektor teknologi. Tanggal ini kembali ke Al Gore's lima prinsip untuk memungkinkan apa yang kemudian quaintly disebut “informasi superhighway global.”

Prinsip tiga adalah bahwa kebijakan regulasi akan “menciptakan kerangka kerja regulasi yang fleksibel yang dapat mengimbangi perubahan teknologi dan pasar yang cepat”. Ini adalah kode untuk tidak ada peraturan, atau pengaturan sendiri. Di Australia dikenal sebagai Peraturan "sentuhan ringan".

Teknologi besar bertindak dengan impunitas peraturan, sebagian besar terbebas dari kekhawatiran duniawi dari ekonomi "lama" seperti perlindungan konsumen atau kewajiban produk atau hukum persaingan atau, khususnya, privasi informasi.

Berputar lebih dekat

Eropa tidak pernah benar-benar mengadopsi pendekatan laissez-faire ini. Privasi informasi selalu menjadi agenda utama, yang berpuncak pada Peraturan Perlindungan Data Umum 2018 (GDPR). Ini memberi individu di Uni Eropa hak perlindungan data paling komprehensif di dunia. Hak memiliki jangkauan ekstrateritorial, melibatkan pengawasan peraturan, dan mempekerjakan denda sipil sebesar mata air. Yurisdiksi lain mulai mengikuti.

Secara paralel, regulator dari disiplin lain mulai lingkaran. Regulator anti-trust melihat baru pada monopoli informasi dan penggunaan kekuatan pasar teknologi besar untuk membatasi persaingan.

Di Australia, ACCC telah menyerukan a otoritas pengaturan baru untuk memantau dan menyelidiki efek dari algoritma pada peringkat berita dan konten jurnalistik.

Inggris Pilih Komite Komunikasi melaporkan Regulating di Dunia Digital memiliki merekomendasikan Otoritas Digital baru untuk mengawasi regulasi "terfragmentasi" lingkungan digital sekitar sepuluh prinsip pengaturan, mencatat bahwa "regulasi peri oleh platform online jelas gagal". Regulator HAM mengkaji peran algoritma dalam menciptakan dan mengakar diskriminasi.

Data berarti uang

Teknologi besar tidak ingin diatur. Ia tidak ingin kemampuannya yang tidak terbatas untuk memanen informasi pribadi menjadi terbatas atau untuk perlindungan tipe GDPR menjadi norma global. Informasi pribadi adalah bahan baku untuk algoritme yang memungkinkannya memonetisasi perhatian kita.

Untuk industri yang membanggakan diri sebagai "mengganggu", kecemasan terbesar teknologi besar adalah mencegah lingkungan pengetatan peraturan untuk menghindari gangguan itu sendiri. Etika data adalah salah satu cara yang telah dikembangkan untuk melawan regulasi. Ia melakukannya dengan mengambil kebajikan yang terkait dengan etika tetapi dengan mengosongkan mereka dari konten atau konsekuensi.

Mengambil Prinsip Google untuk AI. (AI adalah kecerdasan buatan). Ini adalah:

  • menjadi bermanfaat secara sosial
  • hindari membuat atau memperkuat bias yang tidak adil
  • dibangun dan diuji untuk keamanan
  • bertanggung jawab kepada orang-orang
  • memasukkan prinsip-prinsip desain privasi
  • menjunjung tinggi standar keunggulan ilmiah
  • disediakan untuk penggunaan yang sesuai dengan prinsip-prinsip ini.

"Prinsip-prinsip" ini sangat mirip dengan homili-homili baik yang diterbitkan di Instagram yang mendorong kita untuk "bersikap baik satu sama lain" atau tidak "membiarkan matahari terbenam dalam kemarahan kita", dan bermanfaat.

Benarkah? Tangkapan layar ditangkap Maret 28 2019

Ujilah

Mari kita uji salah satu prinsip Google, "bertanggung jawab kepada orang-orang".

Ada beberapa lapisan ambiguitas di sini. Apakah ini berarti bahwa algoritma AI Google harus bertanggung jawab kepada "orang" secara umum, "orang" Google, atau "orang" orang lain seperti regulator independen?

Jika yang terakhir, apakah Google akan menyediakan algoritma untuk analisis, memperbaiki kesalahan, dan membayar kompensasi untuk segala kerusakan yang ditimbulkan?

Jika algoritme AI Google salah menyimpulkan bahwa saya adalah seorang teroris dan kemudian meneruskan informasi ini kepada agen keamanan nasional yang menggunakan informasi tersebut untuk menangkap saya, menahan saya dalam komunikasi dan menginterogasi saya, apakah Google akan bertanggung jawab atas kelalaiannya atau karena berkontribusi pada pemenjaraan palsu saya? Bagaimana itu akan bertanggung jawab? Jika saya tidak puas dengan versi pertanggungjawaban Google, kepada siapa saya memohon keadilan?

Etika yang berguna melibatkan akuntabilitas

Etika memperhatikan prinsip-prinsip moral yang memengaruhi cara individu mengambil keputusan dan bagaimana mereka menjalani hidup.

Etika telah dipelajari dan diperdebatkan selama berabad-abad. Dalam tradisi barat, etika dilacak kembali ke Socrates. Mereka termasuk posisi filosofis seperti etika deontologis (berbasis tugas), konsekuensialisme, utilitarianisme, dan eksistensialisme. Tidak mengherankan, tidak satu pun dari ini menghasilkan jawaban yang sama untuk pertanyaan tentang apa yang harus dilakukan individu dalam keadaan tertentu.

“Etika Terapan” bertujuan untuk membawa prinsip-prinsip etika pada situasi kehidupan nyata. Ada banyak contoh.

Etika sektor publik diatur oleh hukum. Ada konsekuensi bagi mereka yang melanggar, termasuk tindakan disipliner, pemutusan hubungan kerja dan terkadang hukuman pidana. Untuk menjadi pengacara, saya harus memberikan bukti kepada pengadilan bahwa saya adalah "orang yang bugar dan pantas". Untuk terus berlatih, saya harus mematuhi persyaratan terperinci yang ditetapkan dalam Peraturan Perilaku Pengacara Australia. Jika saya melanggar mereka, ada konsekuensinya.

Fitur-fitur etika terapan adalah bahwa mereka adalah spesifik, ada loop umpan balik, bimbingan tersedia, mereka tertanam dalam budaya organisasi dan profesional, ada pengawasan yang tepat, ada konsekuensi ketika mereka dilanggar dan ada mekanisme penegakan independen dan solusi nyata . Mereka adalah bagian dari perangkat peraturan dan bukan hanya pernyataan “merasa baik”.

Feelgood, prinsip etika data tingkat tinggi tidak cocok untuk tujuan mengatur teknologi besar. Etika terapan mungkin memiliki peran untuk dimainkan tetapi karena mereka adalah pekerjaan atau disiplin khusus, mereka tidak dapat diandalkan untuk melakukan semua, atau bahkan sebagian besar, angkat berat.

Kerugian yang terkait dengan teknologi besar hanya dapat diatasi dengan regulasi yang tepat.Percakapan

Tentang Penulis

David Watts, Profesor Hukum dan Kebijakan Informasi, La Trobe University

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait:

{amazonWS: searchindex = Buku; kata kunci = monopoli digital; maxresult = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

ikuti InnerSelf di

facebook-icontwitter-iconrss-icon

Dapatkan Terbaru Dengan Email

{Emailcloak = off}

DARI EDITOR

Hari Perhitungan Sudah Datang Untuk GOP
by Robert Jennings, InnerSelf.com
Partai Republik tidak lagi menjadi partai politik pro-Amerika. Ini adalah partai pseudo-politik tidak sah yang penuh dengan radikal dan reaksioner yang menyatakan tujuannya adalah untuk mengganggu, membuat tidak stabil, dan ...
Mengapa Donald Trump Bisa Menjadi Pecundang Terbesar dalam Sejarah
by Robert Jennings, InnerSelf.com
Diperbarui 2 Juli 20020 - Pandemi virus korona ini menghabiskan banyak uang, mungkin kekayaan 2 atau 3 atau 4, semua ukuran tidak diketahui. Oh ya, dan, ratusan ribu, mungkin satu juta, orang akan mati ...
Blue-Eyes vs Brown Eyes: Bagaimana Rasisme Diajarkan
by Marie T. Russell, InnerSelf
Dalam episode Oprah Show 1992 ini, aktivis dan pendidik anti-rasisme pemenang penghargaan Jane Elliott mengajarkan kepada para peserta pelajaran keras tentang rasisme dengan menunjukkan betapa mudahnya mempelajari prasangka.
Perubahan akan datang...
by Marie T. Russell, InnerSelf
(30 Mei 2020) Sewaktu saya menonton berita tentang peristiwa-peristiwa di Philadephia dan kota-kota lain di negeri ini, hati saya ingin apa yang terjadi. Saya tahu bahwa ini adalah bagian dari perubahan besar yang terjadi ...
Sebuah Lagu Dapat Mengangkat Hati dan Jiwa
by Marie T. Russell, InnerSelf
Saya memiliki beberapa cara yang saya gunakan untuk membersihkan kegelapan dari pikiran saya ketika saya menemukannya telah merayap masuk. Salah satunya adalah berkebun, atau menghabiskan waktu di alam. Yang lainnya adalah diam. Cara lain adalah membaca. Dan satu itu ...