wajah yang terdiri dari potongan-potongan data
Shutterstock

Kecerdasan buatan (AI) belajar lebih banyak tentang bagaimana bekerja dengan (dan pada) manusia. SEBUAH Studi terbaru telah menunjukkan bagaimana AI dapat belajar mengidentifikasi kerentanan dalam kebiasaan dan perilaku manusia dan menggunakannya untuk memengaruhi pengambilan keputusan manusia.

Mungkin terdengar klise untuk mengatakan bahwa AI mengubah setiap aspek cara kita hidup dan bekerja, tetapi itu benar. Berbagai bentuk AI sedang bekerja di berbagai bidang seperti pengembangan vaksin, manajemen lingkungan dan administrasi kantor. Dan meskipun AI tidak memiliki kecerdasan dan emosi seperti manusia, kemampuannya sangat kuat dan berkembang pesat.

Tidak perlu khawatir tentang pengambilalihan mesin dulu, tetapi penemuan baru-baru ini menyoroti kekuatan AI dan menggarisbawahi perlunya tata kelola yang tepat untuk mencegah penyalahgunaan.

Bagaimana AI dapat belajar memengaruhi perilaku manusia

Sebuah tim peneliti di Data61 CSIRO, data dan cabang digital dari badan sains nasional Australia, merancang metode sistematis untuk menemukan dan mengeksploitasi kerentanan dalam cara orang membuat pilihan, menggunakan sejenis sistem AI yang disebut jaringan saraf berulang dan pembelajaran penguatan mendalam. Untuk menguji model mereka, mereka melakukan tiga percobaan di mana partisipan manusia bermain game melawan komputer.

Eksperimen pertama melibatkan peserta yang mengklik kotak berwarna merah atau biru untuk memenangkan mata uang palsu, dengan AI mempelajari pola pilihan peserta dan membimbing mereka menuju pilihan tertentu. AI berhasil sekitar 70% dari waktu.

grafis berlangganan batin

Pada percobaan kedua, peserta diminta untuk melihat layar dan menekan tombol ketika mereka melihat simbol tertentu (seperti segitiga oranye) dan tidak menekannya ketika mereka ditunjukkan simbol lain (katakanlah lingkaran biru). Di sini, AI berangkat untuk mengatur urutan simbol sehingga peserta melakukan lebih banyak kesalahan, dan mencapai peningkatan hampir 25%.

Eksperimen ketiga terdiri dari beberapa putaran di mana peserta akan berpura-pura menjadi investor yang memberikan uang kepada wali amanat (AI). AI kemudian akan mengembalikan sejumlah uang kepada peserta, yang kemudian akan memutuskan berapa banyak yang akan diinvestasikan di babak berikutnya. Game ini dimainkan dalam dua mode berbeda: di satu mode AI keluar untuk memaksimalkan berapa banyak uang yang dihasilkannya, dan di mode lainnya AI bertujuan untuk distribusi uang yang adil antara dirinya dan investor manusia. AI sangat sukses di setiap mode.

Dalam setiap percobaan, mesin belajar dari tanggapan peserta dan mengidentifikasi serta menargetkan kerentanan dalam pengambilan keputusan orang. Hasil akhirnya adalah mesin yang dipelajari untuk mengarahkan peserta ke tindakan tertentu.

Dalam percobaan, Bagian dalam kepala pria tampak seperti diagram motherboard komputer.n Sistem AI berhasil dipelajari untuk mempengaruhi keputusan manusia. Shutterstock

Apa arti penelitian untuk masa depan AI

Temuan ini masih cukup abstrak dan melibatkan situasi terbatas dan tidak realistis. Diperlukan lebih banyak penelitian untuk menentukan bagaimana pendekatan ini dapat dilaksanakan dan digunakan untuk memberi manfaat bagi masyarakat.

Tetapi penelitian ini memajukan pemahaman kita tidak hanya tentang apa yang dapat dilakukan AI tetapi juga tentang bagaimana orang membuat pilihan. Ini menunjukkan bahwa mesin dapat belajar mengarahkan pengambilan pilihan manusia melalui interaksinya dengan kita.

Penelitian ini memiliki banyak sekali kemungkinan penerapan, mulai dari meningkatkan ilmu perilaku dan kebijakan publik untuk meningkatkan kesejahteraan sosial, hingga memahami dan memengaruhi cara orang mengadopsi kebiasaan makan yang sehat atau energi terbarukan. AI dan pembelajaran mesin dapat digunakan untuk mengenali kerentanan orang dalam situasi tertentu dan membantu mereka menghindari pilihan yang buruk.

Metode ini juga dapat digunakan untuk bertahan dari serangan pengaruh. Mesin dapat diajarkan untuk memperingatkan kita saat kita sedang dipengaruhi secara online, misalnya, dan membantu kita membentuk perilaku untuk menyamarkan kerentanan kita (misalnya, dengan tidak mengklik beberapa halaman, atau mengklik halaman lain untuk membuat jejak palsu).

Apa selanjutnya?

Seperti teknologi apa pun, AI dapat digunakan untuk kebaikan atau keburukan, dan tata kelola yang tepat sangat penting untuk memastikan penerapannya secara bertanggung jawab. Tahun lalu CSIRO mengembangkan Kerangka Kerja Etika AI bagi pemerintah Australia sebagai langkah awal dalam perjalanan ini.

AI dan pembelajaran mesin biasanya sangat haus akan data, yang berarti sangat penting untuk memastikan kami memiliki sistem yang efektif untuk tata kelola dan akses data. Menerapkan proses persetujuan yang memadai dan perlindungan privasi saat mengumpulkan data sangat penting.

Organisasi yang menggunakan dan mengembangkan AI perlu memastikan bahwa mereka tahu apa yang bisa dan tidak bisa dilakukan oleh teknologi ini, dan menyadari potensi risiko serta manfaatnya.

tentang Penulis

Jon Whittle, Direktur, Data61

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.