Alur Gambar / Shutterstock

Hampir tidak puas dengan pemantauan semua yang Anda lakukan online, Facebook sekarang ingin membaca pikiran Anda juga. Raksasa media sosial baru-baru ini diumumkan sebuah terobosan dalam rencananya untuk membuat perangkat yang membaca gelombang otak orang untuk memungkinkan mereka mengetik hanya dengan berpikir. Dan Elon Musk ingin melangkah lebih jauh. Salah satu perusahaan bos Tesla lainnya, Neuralink, adalah mengembangkan implan otak untuk menghubungkan pikiran orang secara langsung ke komputer.

Musk mengakui bahwa dia butuh inspirasi dari fiksi ilmiah, dan bahwa ia ingin memastikan manusia bisa "Bersaing" dengan kecerdasan buatan. Dia tampaknya telah melewatkan bagian dari sci-fi yang bertindak sebagai peringatan untuk implikasi teknologi.

Sistem membaca pikiran ini dapat memengaruhi privasi, keamanan, identitas, kesetaraan, dan keselamatan pribadi kami. Apakah kami benar-benar ingin semua yang tersisa untuk perusahaan dengan filosofi seperti mantra mantan Facebook, "bergerak cepat dan memecahkan banyak hal"?

Meskipun kedengarannya futuristik, teknologi yang dibutuhkan untuk membuat alat pembaca gelombang otak tidak jauh berbeda dengan MRI standar (magnetic resonance imaging) dan alat neuroscience EEG (electroencephalography) yang digunakan di rumah sakit di seluruh dunia. Anda sudah dapat membeli kit untuk mengendalikan drone dengan pikiranmu, jadi menggunakan satu untuk mengetik kata, dalam beberapa hal, tidak banyak lompatan. Kemajuan ini kemungkinan disebabkan oleh penggunaan pembelajaran mesin untuk menyaring sejumlah besar data yang dikumpulkan dari otak kita dan menemukan pola dalam aktivitas neuron yang menghubungkan pikiran dengan kata-kata tertentu.

Implan otak kemungkinan akan membutuhkan waktu lebih lama untuk berkembang, dan penting untuk memisahkan yang sebenarnya prestasi Neuralink dari hype dan promosi media. Tetapi Neuralink telah membuat perbaikan simultan dalam bahan untuk elektroda dan bedah berbantuan robot untuk menanamkannya, mengemas teknologi dengan rapi sehingga dapat dibaca melalui USB.

{vembed Y=kPGa_FuGPic}

Rencana Facebook dan Neuralink dapat dibangun berdasarkan praktik medis yang sudah mapan. Tetapi ketika perusahaan mengumpulkan pemikiran langsung dari otak kita, masalah etika sangat berbeda.

Sistem apa pun yang dapat mengumpulkan data langsung dari otak kami memiliki risiko privasi yang jelas. Privasi adalah tentang persetujuan. Tetapi sangat sulit untuk memberikan persetujuan yang tepat jika seseorang menyadap pikiran kita secara langsung. Perusahaan Silicon Valley (dan pemerintah) sudah diam-diam berkumpul sebanyak mungkin data tentang kami dan menggunakannya dengan cara yang kami inginkan bukannya mereka. Seberapa yakin kita bahwa pemikiran acak dan pribadi kita tidak akan ditangkap dan dipelajari di samping instruksi yang ingin kita berikan teknologinya?

Diskriminasi dan manipulasi

Salah satu masalah etika yang ada dengan pengumpulan data adalah diskriminasi berdasarkan atribut seperti jenis kelamin atau ras yang dapat dilihat dari data. Memberikan jendela ke dalam pikiran orang dapat membuatnya lebih mudah untuk menentukan hal-hal lain yang mungkin membentuk dasar prasangka, seperti seksualitas atau ideologi politik, atau bahkan berbagai cara berpikir yang mungkin termasuk hal-hal seperti autisme.

Dengan sistem yang langsung masuk ke otak Anda, tidak hanya pikiran Anda bisa dicuri, tetapi juga mungkin mereka bisa dimanipulasi juga. Stimulasi otak sudah dikembangkan untuk membantu mengobati PTSD dan mengurangi kekerasan. Bahkan ada klaim sensasional yang bisa digunakan untuk itu unggah pengetahuan secara langsung seperti di film The Matrix.

Langkah yang dapat diprediksi adalah menggabungkan teknologi "masuk" dan "keluar" untuk antarmuka otak-komputer dua arah. Potensi bagi pemerintah untuk membuat kita lebih patuh, bagi pengusaha untuk memaksa kita bekerja lebih keras, atau bagi perusahaan untuk membuat kita menginginkan lebih banyak produk mereka menggarisbawahi seberapa serius kita harus mengambil teknologi ini.

Perangkat membaca gelombang otak prototipe Facebook. Facebook

Jika perangkat membaca pikiran menjadi cara normal untuk berinteraksi dengan komputer, kita mungkin berakhir dengan sedikit pilihan selain menggunakannya untuk mengimbangi kolega yang lebih produktif. (Bayangkan seseorang hari ini melamar pekerjaan kantor tetapi menolak untuk menggunakan email.) Dan jika implan gaya Neuralink menjadi norma, ini juga dapat menyebabkan ketidaksetaraan yang lebih besar ditentukan oleh tingkat kit yang Anda mampu pasang.

Elon Musk telah menyatakan bahwa pinjaman besar yang diperlukan untuk membiayai operasi Neuralink akan diimbangi dengan pendapatan potensial untuk "ditingkatkan". Gagasan tentang orang yang merasa tertekan untuk mengambil utang besar untuk menjalani operasi hanya untuk menjaga pekerjaan mereka datang langsung dari distopia sci-fi.

Di atas semua ini adalah ancaman fisik lebih langsung dari sistem yang secara fisik mengganggu otak kita. Sementara beberapa orang mungkin ingin memodifikasi otak mereka dengan antarmuka komputer (sudah ada banyak biohackers eksperimental), untuk meluncurkan ini dalam skala besar akan membutuhkan pengujian besar dan menyeluruh.

Mengingat reputasi Silicon Valley (dan kegemaran) untuk memecahkan banyak hal daripada berhenti memikirkannya secara menyeluruh, sistem ini akan membutuhkan regulasi yang ketat dan tinjauan etis bahkan sebelum pengujian dimulai. Kalau tidak, itu berisiko membuat kelinci percobaan manusia yang dimutilasi.

Untuk semua ini, mungkin ada keuntungan besar untuk melanjutkan penelitian di bidang ini, terutama bagi mereka yang menderita kelumpuhan atau gangguan sensorik. Tetapi Lembah Silikon seharusnya tidak dapat mendikte cara teknologi ini dikembangkan dan digunakan. Jika mereka melakukannya, itu dapat secara radikal membentuk kembali cara kita mengidentifikasi sebagai manusia.

Tentang Penulis

Garfield Benjamin, Peneliti Pascadoktoral, Sekolah Seni dan Teknologi Media, Universitas Solent

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.