Pada tahun 1956, selama perjalanan selama setahun ke London dan di awal usia 20-an, ahli matematika dan biologi teoretis Jack D. Cowan mengunjungi Wilfred Taylor dan penemuan barunya yang aneh.mesin belajar”. Setibanya di sana, dia dibingungkan oleh “sekumpulan besar aparat” yang menghadangnya. Cowan hanya bisa berdiri dan melihat “mesin melakukan tugasnya”. Hal yang tampaknya dilakukannya adalah melakukan “skema memori asosiatif” – ia tampaknya mampu mempelajari cara menemukan koneksi dan mengambil data.
Ini mungkin terlihat seperti blok sirkuit yang rumit, disolder dengan tangan ke dalam kumpulan kabel dan kotak, namun apa yang Cowan saksikan adalah bentuk analog awal dari jaringan saraf – sebuah cikal bakal kecerdasan buatan tercanggih saat ini, termasuk banyak dibicarakan ChatGPT dengan kemampuannya untuk menghasilkan konten tertulis sebagai respons terhadap hampir semua perintah. Teknologi yang mendasari ChatGPT adalah jaringan saraf.
Saat Cowan dan Taylor berdiri dan menyaksikan mesin itu bekerja, mereka benar-benar tidak tahu persis bagaimana mesin itu mampu melakukan tugas ini. Jawaban atas misteri otak mesin Taylor dapat ditemukan dalam “neuron analog”, dalam asosiasi yang dibuat oleh memori mesinnya dan, yang paling penting, dalam kenyataan bahwa fungsi otomatisnya tidak dapat dijelaskan sepenuhnya. Diperlukan waktu puluhan tahun bagi sistem ini untuk menemukan tujuannya dan agar kekuatan tersebut dapat terungkap.
Istilah jaringan saraf menggabungkan berbagai sistem, namun terpusat, menurut IBM, “jaringan saraf ini – juga dikenal sebagai jaringan saraf tiruan (JST) atau jaringan saraf simulasi (SNN) – adalah bagian dari pembelajaran mesin dan merupakan inti dari algoritma pembelajaran mendalam”. Yang terpenting, istilah itu sendiri dan bentuk serta “strukturnya terinspirasi oleh otak manusia, meniru cara neuron biologis memberi sinyal satu sama lain”.
Mungkin masih ada keraguan mengenai manfaatnya pada tahap awal, namun seiring berjalannya waktu, model AI telah beralih ke jaringan saraf. Mereka sekarang sering dianggap sebagai masa depan AI. Hal-hal tersebut mempunyai dampak yang besar bagi kita dan bagi apa artinya menjadi manusia. Kami telah mendengar gaung kekhawatiran ini baru-baru ini dengan seruan untuk menghentikan pengembangan AI baru selama enam bulan untuk memastikan implikasinya.
Tentu saja merupakan suatu kesalahan jika kita menganggap jaringan saraf hanya sekedar tentang gadget baru yang berkilau dan menarik perhatian. Mereka sudah mapan dalam kehidupan kita. Beberapa sangat kuat dalam kepraktisannya. Sejak tahun 1989, sebuah tim yang dipimpin oleh Yann LeCun di AT&T Bell Laboratories menggunakan teknik propagasi balik untuk melatih sistem agar mengenali kode pos tulisan tangan. Baru-baru ini pengumuman oleh Microsoft bahwa pencarian Bing akan didukung oleh AI, menjadikannya “kopilot untuk web”, menggambarkan bagaimana hal-hal yang kita temukan dan cara kita memahaminya akan semakin menjadi produk dari jenis otomatisasi ini.
Memanfaatkan data yang sangat besar untuk menemukan pola, AI juga dapat dilatih untuk melakukan hal-hal seperti pengenalan gambar dengan cepat – sehingga hal tersebut dapat dimasukkan ke dalam pola. pengenalan wajah, contohnya. Kemampuan untuk mengidentifikasi pola ini telah menyebabkan banyak penerapan lain, seperti memprediksi pasar saham.
Jaringan saraf juga mengubah cara kita menafsirkan dan berkomunikasi. Dikembangkan oleh judul yang menarik Tim Otak Google, penerjemah Google adalah aplikasi menonjol lainnya dari jaringan saraf.
Anda juga tidak ingin bermain Catur atau Shogi dengan keduanya. Pemahaman mereka terhadap aturan dan ingatan mereka akan strategi dan semua gerakan yang tercatat menunjukkan bahwa mereka sangat ahli dalam permainan (walaupun ChatGPT tampaknya berjuang dengan Wordle). Sistem yang mengganggu pemain Go manusia (Go adalah permainan papan strategi yang sangat rumit) dan para grandmaster Catur, adalah terbuat dari jaringan saraf.
Namun jangkauan mereka jauh melampaui hal-hal tersebut dan terus berkembang. Pencarian paten yang dibatasi hanya pada penyebutan frasa “jaringan saraf” menghasilkan 135,828 hasil. Dengan ekspansi yang cepat dan berkelanjutan ini, peluang kita untuk dapat menjelaskan sepenuhnya pengaruh AI mungkin semakin kecil. Ini adalah pertanyaan-pertanyaan yang telah saya periksa dalam penelitian saya dan buku baru saya tentang pemikiran algoritmik.
Lapisan 'ketidaktahuan' yang misterius
Melihat kembali sejarah jaringan saraf memberi tahu kita sesuatu yang penting tentang keputusan otomatis yang menentukan masa kini atau keputusan yang mungkin memiliki dampak lebih besar di masa depan. Kehadiran mereka juga memberi tahu kita bahwa kita mungkin akan semakin kurang memahami keputusan dan dampak AI seiring berjalannya waktu. Sistem ini bukan sekedar kotak hitam, mereka bukan sekedar bagian tersembunyi dari suatu sistem yang tidak dapat dilihat atau dipahami.
Ini adalah sesuatu yang berbeda, sesuatu yang berakar pada tujuan dan desain sistem itu sendiri. Ada pengejaran yang sudah lama dilakukan terhadap hal-hal yang tidak dapat dijelaskan. Semakin buram, semakin otentik dan canggih sistem tersebut. Ini bukan hanya tentang sistem yang menjadi lebih kompleks atau pengendalian kekayaan intelektual yang membatasi akses (walaupun hal-hal tersebut merupakan bagian dari hal tersebut). Sebaliknya, etos yang mendorong mereka memiliki ketertarikan khusus dan melekat pada “ketidaktahuan” (unknownability). Misteri ini bahkan dikodekan ke dalam bentuk dan wacana jaringan saraf. Lapisan-lapisan tersebut tersusun dalam lapisan-lapisan yang sangat dalam – oleh karena itu disebut pembelajaran mendalam – dan di dalam lapisan-lapisan tersebut terdapat “lapisan tersembunyi” yang terdengar lebih misterius. Misteri sistem ini berada jauh di bawah permukaan.
Ada kemungkinan besar bahwa semakin besar dampak kecerdasan buatan terhadap kehidupan kita, semakin sedikit kita memahami bagaimana dan mengapa hal ini terjadi. Saat ini terdapat dorongan kuat terhadap AI yang dapat dijelaskan. Kami ingin mengetahui cara kerjanya dan bagaimana hal ini menghasilkan keputusan dan hasil. UE sangat prihatin dengan potensi “risiko yang tidak dapat diterima” dan bahkan penerapan “berbahaya” yang saat ini sedang dikembangkannya. UU AI yang baru dimaksudkan untuk menetapkan “standar global” untuk “pengembangan kecerdasan buatan yang aman, dapat dipercaya, dan beretika”.
Undang-undang baru tersebut akan didasarkan pada kebutuhan akan penjelasan, menuntut itu “Untuk sistem AI yang berisiko tinggi, persyaratan data berkualitas tinggi, dokumentasi dan ketertelusuran, transparansi, pengawasan manusia, akurasi dan ketahanan, sangat diperlukan untuk memitigasi risiko terhadap hak-hak dasar dan keselamatan yang ditimbulkan oleh AI”. Hal ini tidak hanya berkaitan dengan hal-hal seperti mobil self-driving (walaupun sistem yang menjamin keselamatan termasuk dalam kategori AI berisiko tinggi di UE), namun juga kekhawatiran akan munculnya sistem di masa depan yang akan berdampak pada hak asasi manusia.
Hal ini merupakan bagian dari seruan yang lebih luas terhadap transparansi AI sehingga aktivitasnya dapat diperiksa, diaudit, dan dinilai. Contoh lainnya adalah Royal Society pengarahan kebijakan tentang AI yang dapat dijelaskan di mana mereka menunjukkan bahwa “perdebatan kebijakan di seluruh dunia semakin menunjukkan perlunya suatu bentuk penjelasan AI, sebagai bagian dari upaya untuk menanamkan prinsip-prinsip etika ke dalam desain dan penerapan sistem yang mendukung AI”.
Namun kisah tentang jaringan saraf memberi tahu kita bahwa kita kemungkinan besar akan semakin menjauh dari tujuan tersebut di masa depan, dibandingkan mendekati tujuan tersebut.
Terinspirasi oleh otak manusia
Jaringan saraf ini mungkin merupakan sistem yang kompleks namun memiliki beberapa prinsip inti. Terinspirasi oleh otak manusia, mereka berupaya meniru atau mensimulasikan bentuk pemikiran biologis dan manusia. Dalam hal struktur dan desain, mereka adalah, sebagai IBM juga menjelaskan, terdiri dari “lapisan simpul, berisi lapisan masukan, satu atau lebih lapisan tersembunyi, dan lapisan keluaran”. Dalam hal ini, “setiap node, atau neuron buatan, terhubung satu sama lain”. Karena mereka memerlukan masukan dan informasi untuk menghasilkan keluaran, mereka “mengandalkan data pelatihan untuk mempelajari dan meningkatkan akurasinya seiring waktu”. Detail teknis ini penting, namun keinginan untuk memodelkan sistem ini berdasarkan kompleksitas otak manusia juga penting.
Memahami ambisi di balik sistem ini sangat penting untuk memahami arti dari rincian teknis ini dalam praktiknya. Di sebuah 1993 Wawancara, ilmuwan jaringan saraf Teuvo Kohonen menyimpulkan bahwa sistem yang “mengatur dirinya sendiri” “adalah impian saya”, yang beroperasi “seperti yang dilakukan sistem saraf kita secara naluriah”. Sebagai contoh, Kohonen menggambarkan bagaimana sistem yang “berorganisasi sendiri”, sebuah sistem yang memantau dan mengatur dirinya sendiri, “dapat digunakan sebagai panel pemantauan untuk mesin apa pun … di setiap pesawat terbang, pesawat jet, atau setiap pembangkit listrik tenaga nuklir, atau setiap mobil". Hal ini, menurutnya, berarti bahwa di masa depan “Anda dapat segera melihat kondisi sistem saat ini”.
Tujuan utamanya adalah untuk memiliki sistem yang mampu beradaptasi dengan lingkungannya. Ini akan bersifat instan dan otonom, beroperasi dengan gaya sistem saraf. Itulah impiannya, untuk memiliki sistem yang dapat menangani dirinya sendiri tanpa memerlukan banyak campur tangan manusia. Kompleksitas dan ketidakpastian di otak, sistem saraf, dan dunia nyata akan segera mempengaruhi pengembangan dan desain jaringan saraf.
'Sesuatu yang mencurigakan tentang hal itu'
Namun kembali ke tahun 1956 dan mesin pembelajaran yang aneh itu, pendekatan langsung yang diambil Taylor saat membangunnya itulah yang langsung menarik perhatian Cowan. Dia jelas-jelas berkeringat karena kumpulan potongan-potongan itu. Taylor, Cowan mengamati selama wawancara mengenai perannya sendiri dalam kisah sistem ini, “tidak melakukannya berdasarkan teori, dan dia tidak melakukannya di komputer”. Sebaliknya, dengan peralatan di tangannya, dia “sebenarnya membuat perangkat kerasnya”. Itu adalah benda material, kombinasi bagian-bagian, bahkan mungkin sebuah alat. Dan itu “semuanya dilakukan dengan sirkuit analog” yang membutuhkan waktu Taylor, Cowan mencatat, “beberapa tahun untuk membangun dan memainkannya”. Kasus trial and error.
Maklum saja Cowan ingin memahami apa yang dilihatnya. Dia mencoba membuat Taylor menjelaskan mesin pembelajaran ini kepadanya. Klarifikasi tidak datang. Cowan tidak bisa membuat Taylor menjelaskan kepadanya cara kerjanya. Neuron analog masih menjadi misteri. Masalah yang lebih mengejutkan, pikir Cowan, adalah bahwa Taylor “tidak benar-benar memahami apa yang sedang terjadi”. Ini bukan sekadar gangguan komunikasi sesaat antara dua ilmuwan dengan spesialisasi berbeda, tapi lebih dari itu.
Dalam wawancara dari pertengahan tahun 1990an, mengingat kembali mesin Taylor, Cowan mengungkapkan bahwa “sampai hari ini di makalah yang diterbitkan Anda tidak dapat memahami cara kerjanya”. Kesimpulan ini menunjukkan betapa hal yang tidak diketahui tertanam dalam di jaringan saraf. Sistem saraf yang tidak dapat dijelaskan ini telah ada bahkan sejak tahap fundamental dan perkembangan sejak hampir tujuh dekade yang lalu.
Misteri ini masih ada hingga saat ini dan dapat ditemukan dalam bentuk AI yang semakin maju. Fungsi asosiasi yang dibuat oleh mesin Taylor yang tidak dapat diduga membuat Cowan bertanya-tanya apakah ada "sesuatu yang mencurigakan tentang hal itu".
Akarnya panjang dan kusut
Cowan merujuk kembali pada kunjungan singkatnya dengan Taylor ketika ditanya tentang penerimaan karyanya beberapa tahun kemudian. Memasuki tahun 1960-an, Cowan merefleksikan, “agak lambat dalam memahami manfaat dari jaringan saraf analog”. Hal ini terjadi meskipun, kenang Cowan, karya Taylor pada tahun 1950-an tentang “memori asosiatif” didasarkan pada “neuron analog”. Pakar sistem saraf pemenang Hadiah Nobel, Leon N. Cooper, menyimpulkan bahwa perkembangan seputar penerapan model otak pada tahun 1960an, dianggap “sebagai salah satu misteri yang mendalam”. Karena ketidakpastian ini, masih ada keraguan mengenai apa yang mungkin dicapai oleh jaringan saraf. Namun segalanya perlahan mulai berubah.
Sekitar 30 tahun yang lalu ahli saraf Walter J. Freeman, yang terkejut dengan “luar biasa” berbagai aplikasi yang telah ditemukan untuk jaringan saraf, telah mengomentari fakta bahwa dia tidak melihatnya sebagai “jenis mesin yang pada dasarnya baru”. Prosesnya berjalan lambat, dengan teknologi yang didahulukan dan kemudian aplikasi berikutnya ditemukan untuknya. Ini membutuhkan waktu. Memang benar, untuk menemukan akar dari teknologi jaringan saraf kita mungkin akan kembali ke masa lalu lebih jauh dari kunjungan Cowan ke mesin misterius Taylor.
Ilmuwan jaringan saraf James Anderson dan jurnalis sains Edward Rosenfeld telah mencatat bahwa latar belakang jaringan saraf dimulai pada tahun 1940-an dan beberapa upaya awal untuk, seperti yang mereka gambarkan, “memahami sistem saraf manusia dan membangun sistem buatan yang bertindak seperti yang kita lakukan, setidaknya sedikit”. Maka, pada tahun 1940-an, misteri sistem saraf manusia juga menjadi misteri pemikiran komputasional dan kecerdasan buatan.
Meringkas cerita panjang ini, penulis ilmu komputer Larry Hardesty telah menunjukkannya bahwa pembelajaran mendalam dalam bentuk jaringan saraf “telah keluar masuk mode selama lebih dari 70 tahun”. Lebih khusus lagi, tambahnya, “jaringan saraf ini pertama kali diusulkan pada tahun 1944 oleh Warren McCulloch dan Walter Pitts, dua peneliti Universitas Chicago yang pindah ke MIT pada tahun 1952 sebagai anggota pendiri dari apa yang kadang-kadang disebut departemen ilmu kognitif pertama”.
Di tempat lain, 1943 terkadang merupakan tanggal tertentu sebagai tahun pertama teknologi tersebut. Apa pun yang terjadi, selama kurang lebih 70 tahun, banyak laporan yang menunjukkan bahwa jaringan saraf telah masuk dan keluar dari mode, sering diabaikan tetapi kadang-kadang mengambil alih dan beralih ke aplikasi dan perdebatan yang lebih umum. Ketidakpastian terus berlanjut. Para pengembang awal tersebut sering kali menggambarkan pentingnya penelitian mereka sebagai hal yang diabaikan, hingga penelitian tersebut menemukan tujuannya seringkali bertahun-tahun dan terkadang beberapa dekade kemudian.
Beralih dari tahun 1960an hingga akhir tahun 1970an kita dapat menemukan cerita lebih lanjut tentang sifat-sifat yang tidak diketahui dari sistem ini. Meski begitu, setelah tiga dekade, jaringan saraf masih menemukan tujuannya. David Rumelhart, yang memiliki latar belakang psikologi dan merupakan salah satu penulis serangkaian buku yang diterbitkan pada tahun 1986 yang kemudian mengarahkan perhatian kembali ke jaringan saraf, mendapati dirinya berkolaborasi dalam pengembangan jaringan saraf. dengan rekannya Jay McClelland.
Selain sebagai rekan kerja, mereka juga baru-baru ini bertemu satu sama lain di sebuah konferensi di Minnesota di mana pembicaraan Rumelhart tentang “pemahaman cerita” telah memicu beberapa diskusi di antara para delegasi.
Setelah konferensi tersebut, McClelland kembali dengan pemikiran tentang bagaimana mengembangkan jaringan saraf yang dapat menggabungkan model menjadi lebih interaktif. Yang penting di sini adalah Ingatan Rumelhart dari “berjam-jam mengutak-atik komputer”.
Kami duduk dan melakukan semua ini di komputer dan membuat model komputer ini, dan kami tidak memahaminya. Kami tidak memahami mengapa cara-cara tersebut berhasil atau mengapa tidak berhasil, atau apa yang penting dari hal tersebut.
Seperti Taylor, Rumelhart mendapati dirinya mengutak-atik sistem. Mereka juga menciptakan jaringan saraf yang berfungsi dan, yang terpenting, mereka juga tidak yakin bagaimana atau mengapa jaringan tersebut bekerja seperti itu, tampaknya mereka belajar dari data dan menemukan asosiasi.
Meniru otak - lapis demi lapis
Anda mungkin telah memperhatikan bahwa ketika membahas asal usul jaringan saraf, gambaran otak dan kompleksitas yang ditimbulkannya tidak jauh berbeda. Otak manusia bertindak sebagai semacam templat untuk sistem ini. Pada tahap awal, khususnya, otak – yang masih merupakan salah satu hal yang belum diketahui – menjadi model bagaimana jaringan saraf dapat berfungsi.
Jadi sistem eksperimental baru ini dimodelkan berdasarkan sesuatu yang fungsinya sebagian besar tidak diketahui. Insinyur neurokomputer Carver Mead telah berbicara secara terbuka tentang konsepsi “gunung es kognitif” yang menurutnya sangat menarik. Ini hanyalah puncak gunung es kesadaran yang kita sadari dan terlihat. Skala dan bentuk sisanya masih belum diketahui di bawah permukaan.
Dalam 1998, James Anderson, yang telah bekerja selama beberapa waktu di bidang jaringan saraf, mencatat bahwa ketika menyangkut penelitian tentang otak “penemuan utama kita tampaknya adalah kesadaran bahwa kita sebenarnya tidak tahu apa yang sedang terjadi”.
Dalam akun rinci di Financial Times pada tahun 2018, jurnalis teknologi Richard Waters mencatat bagaimana jaringan saraf “dimodelkan berdasarkan teori tentang cara otak manusia beroperasi, meneruskan data melalui lapisan neuron buatan hingga muncul pola yang dapat diidentifikasi”. Hal ini menciptakan masalah besar, Waters mengusulkan, karena “tidak seperti rangkaian logika yang digunakan dalam program perangkat lunak tradisional, tidak ada cara untuk melacak proses ini untuk mengidentifikasi secara pasti mengapa komputer menghasilkan jawaban tertentu”. Kesimpulan Waters adalah bahwa hasil-hasil ini tidak bisa dibiarkan begitu saja. Penerapan model otak seperti ini, yang mengambil data melalui banyak lapisan, berarti bahwa jawabannya tidak dapat dengan mudah ditelusuri kembali. Banyaknya lapisan adalah salah satu alasannya.
paling sulit juga mengamati bahwa sistem ini “dimodelkan secara longgar pada otak manusia”. Hal ini membawa keinginan untuk membangun kompleksitas pemrosesan yang lebih banyak lagi agar dapat menyesuaikan dengan otak. Hasil dari tujuan ini adalah jaringan saraf yang “terdiri dari ribuan atau bahkan jutaan node pemrosesan sederhana yang saling berhubungan erat”. Data bergerak melalui node ini hanya dalam satu arah. Hardesty mengamati bahwa “suatu node individu mungkin terhubung ke beberapa node pada lapisan di bawahnya, yang merupakan tempat menerima data, dan beberapa node pada lapisan di atasnya, yang menjadi tujuan pengiriman data”.
Model otak manusia adalah bagian dari bagaimana jaringan saraf ini disusun dan dirancang sejak awal. Hal ini sangat menarik ketika kita menganggap bahwa otak itu sendiri merupakan misteri pada masa itu (dan dalam banyak hal masih demikian).
'Adaptasi adalah keseluruhan permainan'
Ilmuwan seperti Mead dan Kohonen ingin menciptakan sistem yang benar-benar dapat beradaptasi dengan dunia di mana sistem tersebut berada. Ia akan merespons kondisinya. Mead menjelaskan dengan jelas bahwa manfaat dari jaringan saraf adalah bahwa mereka dapat memfasilitasi adaptasi jenis ini. Pada saat itu, dan merenungkan ambisi ini, tambah Mead bahwa menghasilkan adaptasi “adalah keseluruhan permainan”. Adaptasi ini diperlukan, pikirnya, “karena sifat dunia nyata”, yang ia simpulkan “terlalu bervariasi untuk melakukan sesuatu yang absolut”.
Masalah ini perlu diperhitungkan terutama karena, menurutnya, ini adalah sesuatu yang “diketahui oleh sistem saraf sejak lama”. Para inovator ini tidak hanya bekerja dengan gambaran otak dan hal-hal yang tidak diketahui, mereka juga menggabungkannya dengan visi “dunia nyata” dan ketidakpastian, ketidaktahuan, dan variabilitas yang ditimbulkannya. Sistem tersebut, menurut Mead, harus mampu merespons dan beradaptasi dengan keadaan tanpa petunjuk.
Sekitar waktu yang sama di tahun 1990an, Stephen Grossberg – seorang pakar sistem kognitif yang bekerja di bidang matematika, psikologi, dan teknik bioemedis – juga berpendapat bahwa adaptasi akan menjadi langkah penting dalam jangka panjang. Grossberg, saat dia mengerjakan pemodelan jaringan saraf, berpikir bahwa ini semua “tentang bagaimana sistem pengukuran dan kontrol biologis dirancang untuk beradaptasi dengan cepat dan stabil secara real-time terhadap dunia yang berfluktuasi dengan cepat”. Seperti yang kita lihat sebelumnya dalam “impian” Kohonen tentang sistem yang “mengorganisasi dirinya sendiri”, gagasan tentang “dunia nyata” menjadi konteks di mana respons dan adaptasi dikodekan ke dalam sistem ini. Bagaimana dunia nyata dipahami dan dibayangkan tidak diragukan lagi membentuk bagaimana sistem ini dirancang untuk beradaptasi.
Lapisan tersembunyi
Saat lapisan-lapisannya bertambah banyak, pembelajaran mendalam menyelami kedalaman baru. Jaringan saraf dilatih menggunakan data pelatihan yang, Kekerasaan menjelaskan, “diumpankan ke lapisan terbawah – lapisan masukan – dan melewati lapisan-lapisan berikutnya, dikalikan dan dijumlahkan dengan cara yang rumit, hingga akhirnya tiba, bertransformasi secara radikal, pada lapisan keluaran”. Semakin banyak lapisan, semakin besar transformasinya dan semakin besar jarak dari input ke output. Perkembangan Graphics Processing Units (GPU), misalnya dalam game, Hardesty menambahkan, “memungkinkan jaringan satu lapis pada tahun 1960an dan jaringan dua hingga tiga lapis pada tahun 1980an berkembang menjadi jaringan sepuluh, 15, atau bahkan 50 lapis. -jaringan lapisan saat ini”.
Jaringan saraf semakin dalam. Memang benar, penambahan lapisan inilah, menurut Hardesty, yang merupakan “apa yang dimaksud dengan 'pembelajaran mendalam'”. Hal ini penting, menurutnya, karena “saat ini, pembelajaran mendalam bertanggung jawab atas sistem yang berkinerja terbaik di hampir setiap bidang penelitian kecerdasan buatan”.
Namun misterinya semakin dalam. Ketika lapisan jaringan saraf semakin tinggi, kompleksitasnya pun meningkat. Hal ini juga menyebabkan tumbuhnya apa yang disebut sebagai “lapisan tersembunyi” di kedalaman tersebut. Diskusi tentang jumlah optimal lapisan tersembunyi dalam jaringan saraf sedang berlangsung. Ahli teori media Beatrice Fazi telah menulis bahwa “karena cara jaringan saraf dalam beroperasi, mengandalkan lapisan saraf tersembunyi yang diapit di antara lapisan neuron pertama (lapisan masukan) dan lapisan terakhir (lapisan keluaran), teknik pembelajaran mendalam sering kali tidak jelas atau tidak terbaca bahkan oleh orang-orang. pemrogram yang pertama kali mengaturnya”.
Ketika lapisan-lapisan tersebut bertambah (termasuk lapisan-lapisan tersembunyi tersebut), lapisan-lapisan tersebut menjadi semakin tidak dapat dijelaskan – bahkan, sekali lagi, bagi mereka yang menciptakannya. Hal serupa disampaikan oleh pemikir media baru terkemuka dan interdisipliner Katherine Hayles juga diperhatikan bahwa ada batasan “seberapa banyak yang dapat kita ketahui tentang sistem, hasil yang relevan dengan 'lapisan tersembunyi' dalam jaringan saraf dan algoritme pembelajaran mendalam”.
Mengejar hal yang tidak bisa dijelaskan
Secara keseluruhan, perkembangan panjang ini adalah bagian dari apa yang dikemukakan oleh sosiolog teknologi Taina Bucher disebut sebagai “masalah yang tidak diketahui”. Memperluas penelitiannya yang berpengaruh pada pengetahuan ilmiah ke dalam bidang AI, Harry Collins telah menunjukkan hal itu tujuan dari jaringan saraf adalah agar jaringan tersebut dapat diproduksi oleh manusia, setidaknya pada awalnya, tetapi “setelah ditulis, program tersebut seolah-olah akan menjalani kehidupannya sendiri; tanpa usaha besar, bagaimana tepatnya program ini bekerja akan tetap menjadi misteri”. Hal ini mencerminkan impian lama mengenai sistem yang dapat mengatur dirinya sendiri.
Saya ingin menambahkan bahwa hal-hal yang tidak diketahui dan bahkan mungkin tidak dapat diketahui telah diupayakan sebagai bagian mendasar dari sistem ini sejak tahap paling awal. Ada kemungkinan besar bahwa semakin besar dampak kecerdasan buatan terhadap kehidupan kita, semakin sedikit kita memahami bagaimana dan mengapa hal ini terjadi.
Namun hal itu tidak diterima oleh banyak orang saat ini. Kami ingin mengetahui cara kerja AI dan cara AI mengambil keputusan serta hasil yang berdampak pada kami. Seiring dengan perkembangan AI yang terus membentuk pengetahuan dan pemahaman kita tentang dunia, apa yang kita temukan, cara kita diperlakukan, cara kita belajar, mengonsumsi, dan berinteraksi, dorongan untuk memahami ini akan tumbuh. Terkait AI yang dapat dijelaskan dan transparan, kisah tentang jaringan saraf memberi tahu kita bahwa kita kemungkinan besar akan semakin menjauh dari tujuan tersebut di masa depan, dibandingkan mendekati tujuan tersebut.
David Bir, Profesor Sosiologi, University of York
Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.
