Informasi adalah komoditas yang berharga. Dan berkat teknologi, ada jutaan terabyte itu secara online.

Alat kecerdasan buatan (AI) seperti ChatGPT kini mengelola informasi ini atas nama kami – menyusunnya, merangkumnya, dan menyajikannya kembali kepada kami.

Namun “pengalihdayaan” pengelolaan informasi ke AI – meskipun mudah dilakukan – mempunyai konsekuensi. Hal ini tidak hanya dapat mempengaruhi apa menurut kami, namun juga berpotensi bagaimana kami pikir.

Apa yang terjadi di dunia di mana algoritma AI menentukan informasi apa yang akan dilestarikan dan informasi apa yang tertinggal?

Munculnya AI yang dipersonalisasi

Alat AI generatif dibangun berdasarkan model yang dilatih pada kapasitas ratusan gigabyte data yang sudah ada sebelumnya. Dari data ini mereka belajar cara membuat konten teks, gambar, audio dan video secara mandiri, dan dapat menanggapi pertanyaan pengguna dengan menyatukan jawaban yang “paling mungkin”.

ChatGPT digunakan oleh jutaan orang, meskipun telah dirilis ke publik kurang dari setahun yang lalu. Pada bulan Juni, penambahan tanggapan khusus membuat chatbot yang sudah mengesankan menjadi lebih berguna. Fitur ini memungkinkan pengguna menyimpan instruksi khusus yang menjelaskan untuk apa mereka menggunakan bot dan bagaimana mereka ingin meresponsnya.

Ini adalah salah satu dari beberapa contoh “AI yang dipersonalisasi”: kategori alat AI yang menghasilkan konten untuk memenuhi kebutuhan dan preferensi spesifik pengguna.

Contoh lainnya adalah Meta yang baru saja diluncurkan Asisten virtual, MetaAI. bot obrolan ini dapat melakukan percakapan, menghasilkan gambar, dan melakukan tugas di seluruh platform Meta termasuk WhatsApp, Messenger, dan Instagram.

Peneliti kecerdasan buatan dan salah satu pendiri DeepMind, Mustafa Suleyman, menjelaskan AI yang dipersonalisasi lebih merupakan hubungan daripada teknologi:

Itu teman. […] Itu benar-benar akan selalu hadir dan bersama Anda, hidup bersama Anda – pada dasarnya di tim Anda. Saya suka menganggapnya seperti memiliki pelatih hebat di sisi Anda.

Namun teknologi ini juga kontroversial, dan menimbulkan kekhawatiran data kepemilikan, prasangka dan keterangan yg salah.

Perusahaan teknologi berusaha mencari cara untuk mengatasi masalah ini. Misalnya, Google telah menambahkan tautan sumber ke ringkasan pencarian yang dihasilkan oleh AI Cari Pengalaman Generatif (SGE), yang mendapat kecaman awal tahun ini mempersembahkan tanggapan yang tidak akurat dan bermasalah.

Teknologi telah mengubah pemikiran kita

Bagaimana alat AI generatif – dan khususnya yang dipersonalisasi untuk kita – akan mengubah cara berpikir kita?

Untuk memahami hal ini, mari kita meninjau kembali awal tahun 1990an ketika internet pertama kali hadir dalam kehidupan kita. Orang-orang tiba-tiba dapat mengakses informasi tentang apa saja, baik itu perbankan, membuat kue, mengajar, atau bepergian.

Hampir 30 tahun kemudian, penelitian menunjukkan bagaimana terhubung dengan “sarang pikiran” global ini telah mengubah kognisi, ingatan, dan kreativitas kita.

Misalnya, memiliki akses instan yang setara dengan 305.5 miliar halaman informasi telah meningkatkan masyarakat pengetahuan meta – yaitu, pengetahuan mereka tentang pengetahuan. Salah satu dampaknya adalah “Efek Google”: sebuah fenomena di mana pencarian online meningkatkan kemampuan kita untuk menemukan informasi, namun mengurangi ingatan kita tentang informasi tersebut.

Di satu sisi, menuangkan pemikiran kita ke mesin pencari telah terbukti membebaskan cadangan mental kita pemecahan masalah dan berpikir kreatif. Di sisi lain, pengambilan informasi secara online dikaitkan dengan peningkatan keteralihan dan ketergantungan.

Penelitian juga menunjukkan pencarian online – terlepas dari kuantitas atau kualitas informasi yang diperoleh – meningkatkan kualitas hidup kita harga diri kognitif. Dengan kata lain, hal ini meningkatkan keyakinan kita pada “kecerdasan” kita sendiri.

Gabungkan ini dengan fakta itu mempertanyakan informasi itu sulit – dan semakin kita memercayai mesin pencari, semakin kita tidak kritis terlibat dengan hasilnya – dan Anda dapat melihat mengapa memiliki akses terhadap informasi dalam jumlah besar belum tentu membuat kita menjadi lebih bijaksana.

Haruskah kita 'mengalihdayakan' pemikiran kita?

Alat AI generatif saat ini lebih dari sekadar menyajikan hasil penelusuran kepada kita. Mereka mencari informasi untuk kita, mengevaluasinya, mensintesisnya dan menyajikannya kembali kepada kita.

Apa implikasi dari hal ini? Tanpa mendorong pengendalian kualitas yang dipimpin oleh manusia, prospeknya tidak akan menjanjikan.

Kemampuan AI Generatif untuk menghasilkan respons yang terasa familier, obyektif, dan menarik membuat kita lebih rentan terhadap hal tersebut bias kognitif.

Grafik bias otomatisasi, misalnya, adalah kecenderungan manusia untuk melebih-lebihkan integritas informasi yang bersumber dari mesin. Dan itu paparan belaka Efeknya adalah ketika kita lebih cenderung memercayai informasi yang disajikan sebagai sesuatu yang familier atau bersifat pribadi.

Penelitian di media sosial dapat membantu kita memahami dampak bias tersebut. Dalam sebuah penelitian tahun 2016, pengguna Facebook melaporkan merasa lebih “tahu” berdasarkan kuantitas konten berita yang diposkan secara online – dan bukan seberapa banyak konten tersebut benar-benar mereka baca.

Kita juga tahu bahwa “gelembung filter” yang diciptakan oleh algoritme media sosial – yang mana feed kita difilter menurut minat kita – membatasi keberagaman konten yang kita lihat.

Proses penyempitan informasi ini terbukti meningkat polarisasi ideologi dengan mengurangi kecenderungan masyarakat untuk mempertimbangkan perspektif alternatif. Ini juga telah terbukti meningkatkan kemungkinan kita terpapar berita palsu.

Menggunakan AI untuk menjadi bijak, bukan untuk membuat bodoh

Tidak diragukan lagi, AI generatif adalah kekuatan revolusioner yang berpotensi memberikan manfaat besar bagi masyarakat. Hal ini dapat membentuk kembali sistem pendidikan kita dengan menyediakan konten yang dipersonalisasi, ubah praktik kerja kita dengan mempercepat penulisan dan analisis informasi, dan mendorong batas-batas penemuan ilmiah.

Bahkan memiliki potensi untuk mengubah hubungan kita secara positif dengan membantu kita berkomunikasi dan berhubungan dengan orang lain dan, kadang-kadang, dapat berfungsi sebagai bentuk persahabatan sintetik.

Namun jika satu-satunya cara kita menilai masa depan adalah dengan melihat ke masa lalu, mungkin sekarang adalah waktu yang tepat untuk merenungkan bagaimana internet dan media sosial telah mengubah cara pandang kita, dan menerapkan beberapa hal. tindakan pencegahan. Mengembangkan literasi AI adalah awal yang baik, seperti merancang alat AI yang mendorong otonomi manusia dan pemikiran kritis.

Pada akhirnya, kita harus memahami diri kita sendiri serta kekuatan dan kelemahan AI untuk memastikan bahwa rekan-rekan yang “berpikir” ini membantu kita menciptakan masa depan yang kita inginkan – dan bukan masa depan yang berada di urutan teratas dalam daftar.

Sarah Vivienne Bentley, Ilmuwan Riset, Inovasi yang Bertanggung Jawab, Data61, CSIRO; Claire Mason, Ilmuwan Riset Utama, CSIRO, dan Einat Grimberg, Rekan Peneliti Pascadoktoral di bidang Teknologi dan Ilmu Sosial, CSIRO

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.