Raksasa teknologi AS Microsoft telah bekerja sama dengan universitas militer Cina mengembangkan sistem kecerdasan buatan yang berpotensi meningkatkan pengawasan pemerintah dan kemampuan sensor. Dua Senator AS secara terbuka mengutuk kemitraan, tetapi apa Universitas Teknologi Pertahanan Nasional Cina inginkan dari Microsoft bukan satu-satunya perhatian.

As penelitian saya menunjukkan, munculnya represi digital sangat memengaruhi hubungan antara warga negara dan negara. Teknologi baru mempersenjatai pemerintah dengan kemampuan yang belum pernah terjadi sebelumnya untuk memantau, melacak, dan mengawasi setiap orang. Bahkan pemerintah di negara demokrasi dengan tradisi kuat aturan hukum menemukan diri mereka tergoda untuk menyalahgunakan kemampuan baru ini.

Di negara bagian dengan institusi yang tidak bertanggung jawab dan pelanggaran HAM yang sering terjadi, Sistem AI kemungkinan besar akan menyebabkan kerusakan yang lebih besar. Cina adalah contoh yang menonjol. Kepemimpinannya telah dengan antusias merangkul teknologi AI, dan telah membentuk dunia paling canggih negara pengawasan in Provinsi Xinjiang, melacak pergerakan harian warga dan penggunaan ponsel cerdas.

Eksploitasi teknologi ini menyajikan model dingin untuk sesama otokrat dan merupakan ancaman langsung bagi masyarakat demokratis terbuka. Meskipun tidak ada bukti bahwa pemerintah lain telah meniru tingkat pengawasan AI ini, perusahaan Cina secara aktif mengekspor teknologi yang mendasari yang sama di seluruh dunia.

Meningkatkan ketergantungan pada alat AI di AS

Sistem kecerdasan buatan ada di mana-mana di dunia modern, membantu menjalankan smartphone, mesin pencari internet, asisten suara digital dan antrian film Netflix. Banyak orang gagal menyadari seberapa cepat AI berkembang, berkat jumlah data yang terus meningkat untuk dianalisis, meningkatkan algoritma dan chip komputer canggih.

Kapan saja semakin banyak informasi tersedia dan analisis menjadi lebih mudah, pemerintah tertarik - dan bukan hanya yang otoriter. Di AS, misalnya, 1970 melihat wahyu yang dibentuk oleh lembaga pemerintah - seperti FBI, CIA dan NSA - jaringan pengawasan domestik yang luas untuk memantau dan melecehkan pemrotes hak-hak sipil, aktivis politik dan kelompok penduduk asli Amerika. Masalah-masalah ini belum hilang: Teknologi digital saat ini telah memperdalam kemampuan bahkan lebih banyak lembaga untuk melakukan pengawasan yang bahkan lebih mengganggu.

Seberapa adil algoritma memprediksi di mana polisi harus paling fokus? Arnout de Vries

Sebagai contoh, polisi AS dengan penuh semangat merangkul teknologi AI. Mereka sudah mulai menggunakan perangkat lunak itu dimaksudkan untuk memprediksi di mana kejahatan akan terjadi untuk memutuskan ke mana harus mengirim petugas berpatroli. Mereka juga menggunakan pengenalan wajah dan Analisis DNA dalam investigasi kriminal. Tetapi analisis dari sistem ini menunjukkan data di mana sistem tersebut dilatih sering bias, mengarah ke hasil yang tidak adil, Seperti secara salah menentukan bahwa orang Afrika-Amerika lebih mungkin melakukan kejahatan daripada kelompok lain.

Surveilans AI di seluruh dunia

Di negara-negara otoriter, sistem AI dapat secara langsung melakukan kontrol dan pengawasan domestik, membantu pasukan keamanan internal memproses sejumlah besar informasi - termasuk posting media sosial, pesan teks, email dan panggilan telepon - lebih cepat dan efisien. Polisi dapat mengidentifikasi tren sosial dan orang spesifik yang mungkin mengancam rezim berdasarkan informasi yang ditemukan oleh sistem ini.

Misalnya, pemerintah Cina telah menggunakan AI dalam penumpasan berskala luas di daerah-daerah yang merupakan rumah bagi etnis minoritas di Cina. Sistem pengawasan di Xinjiang dan Tibet telah digambarkan sebagai "Orwellian. ”Upaya ini sudah termasuk sampel DNA wajib, Pemantauan jaringan Wi-Fi dan kamera pengenalan wajah yang tersebar luas, semuanya terhubung ke platform analisis data terintegrasi. Dengan bantuan sistem ini, otoritas Tiongkok, menurut Departemen Luar Negeri AS, "secara sewenang-wenang ditahan" di antaranya 1 dan 2 juta orang.

My Penelitian mengamati negara-negara 90 di seluruh dunia dengan tipe pemerintah mulai dari otoriter tertutup hingga demokrasi yang cacat, termasuk Thailand, Turki, Bangladesh, dan Kenya. Saya telah menemukan perusahaan China mengekspor teknologi pengawasan AI untuk setidaknya 54 dari negara-negara ini. Seringkali, teknologi ini dikemas sebagai bagian dari kapal China Sabuk dan Inisiatif Jalan, yang mendanai jaringan jalan, kereta api, pipa energi dan jaringan telekomunikasi yang luas melayani 60% dari populasi dunia dan ekonomi yang menghasilkan 40% dari PDB global.

Misalnya, perusahaan Cina suka Huawei dan ZTE sedang membangun "kota pintar" di Pakistan, orang Filipina dan Kenya, menampilkan teknologi pengawasan bawaan yang luas. Sebagai contoh, Huawei telah dilengkapi Bonifacio Global City di Filipina dengan kamera terhubung internet definisi tinggi yang menyediakan “24 / 7 pengawasan keamanan cerdas dengan analitik data untuk mendeteksi kejahatan dan membantu mengatur lalu lintas. "

Bonifacio Global City di Filipina memiliki banyak peralatan pengawasan terpadu. alveo land / Wikimedia Commons

Hikvision, Yitu dan SenseTime memasok kamera pengenal wajah canggih untuk digunakan di tempat-tempat seperti Singapura - yang mengumumkan pembentukan program pengawasan dengan Kamera 110,000 dipasang pada tiang lampu di sekitar negara-kota. Zimbabwe menciptakan database gambar nasional yang bisa digunakan untuk pengenalan wajah.

Namun, menjual peralatan canggih untuk keuntungan berbeda dari berbagi teknologi dengan tujuan geopolitik yang tegas. Kemampuan baru ini dapat menanamkan benih untuk pengawasan global: Ketika pemerintah semakin tergantung pada teknologi Cina untuk mengelola populasi mereka dan mempertahankan kekuasaan, mereka akan menghadapi tekanan yang lebih besar untuk menyelaraskan dengan agenda China. Tetapi untuk saat ini tampaknya motif utama Tiongkok adalah mendominasi pasar untuk teknologi baru dan menghasilkan banyak uang dalam prosesnya.

AI dan disinformasi

Selain memberikan kemampuan pengawasan yang baik dan menyeluruh, AI dapat membantu pemerintah yang represif memanipulasi informasi yang tersedia dan menyebarkan disinformasi. Kampanye ini dapat dilakukan secara otomatis atau dengan bantuan otomatisasi, dan digunakan pesan yang sangat dipersonalisasi diarahkan pada - atau menentang - orang spesifik atau kelompok.

AI juga mendukung teknologi yang biasa disebut “deepfake, ”Di mana algoritma membuat pemalsuan video dan audio yang realistis. Berlumpur perairan antara kebenaran dan fiksi dapat menjadi berguna dalam pemilihan yang ketat, ketika satu kandidat dapat membuat video palsu yang menunjukkan lawan melakukan dan mengatakan hal-hal yang tidak pernah benar-benar terjadi.

Video deepfake awal menunjukkan beberapa bahaya teknologi canggih.

{disematkan Y=cQ54GDm1eL0}

Dalam pandangan saya, pembuat kebijakan di negara-negara demokrasi harus berpikir dengan hati-hati tentang risiko sistem AI untuk masyarakat mereka sendiri dan orang-orang yang hidup di bawah rezim otoriter di seluruh dunia. Pertanyaan kritis adalah berapa banyak negara yang akan mengadopsi model pengawasan digital China. Tapi bukan hanya negara otoriter yang merasakan tarikan. Dan itu juga bukan hanya perusahaan Cina yang menyebarkan teknologi: Banyak perusahaan AS, termasuk Microsoft, tetapi IBM, Cisco dan Thermo Fisher juga, telah menyediakan kemampuan canggih untuk pemerintah jahat. Penyalahgunaan AI tidak terbatas pada negara otokratis.

Tentang Penulis

Steven Feldstein, Frank and Bethine Church Chair of Public Affairs & Associate Professor, School of Public Service, Boise State University

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait

at Pasar InnerSelf dan Amazon