Ketika Hal-hal Terjadi Salah Dalam Dunia Otomatis, Apakah Kita Masih Tahu Apa yang Harus Dilakukan?

Ketika Hal-hal Terjadi Salah Dalam Dunia Otomatis, Apakah Kita Masih Tahu Apa yang Harus Dilakukan?

Kita hidup di dunia yang keduanya semakin kompleks dan otomatis. Jadi, sama seperti kita harus menghadapi masalah yang lebih kompleks, otomasi mengarah pada atrofi keterampilan manusia yang mungkin membuat kita lebih rentan saat merespons situasi tak terduga atau bila ada yang salah. Percakapan

Pertimbangkan menit terakhir Air France Flight 447, yang menabrak Atlantik Mei 2009 setelah meninggalkan Rio de Janeiro, Brasil, untuk Paris, Prancis.

Perekam penerbangannya terungkap kebingungan di kokpit. Pesawat itu menjadi miring ke atas pada 15º dengan suara otomatis berulang-ulang memanggil "stall, stall". Namun pilotnya terguncang, seseorang berseru: "[...] kita tidak mengerti apa-apa."

Ini bukan tempat untuk masuk ke seluk beluk penerbangan naas tersebut, selain untuk mencatat bahwa sistem yang dirancang untuk menangani kontinjensi secara otomatis sebagian besar waktu meninggalkan basis keterampilan yang terdegradasi untuk minoritas situasi yang tidak dapat dilakukan oleh para desainer. perlu diramalkan.

Berbicara kepada vanity Fair, Nadine Sarter, seorang insinyur industri di University of Michigan, mengingat sebuah percakapan dengan lima insinyur yang terlibat dalam membangun pesawat terbang tertentu.

Saya mulai bertanya, 'Nah, bagaimana ini atau itu berhasil?' Dan mereka tidak bisa menyetujui jawabannya. Jadi saya berpikir, jika kelima insinyur ini tidak setuju, pilot yang buruk, jika dia pernah menemukan situasi itu ... selamat mencoba.

Akibatnya, kompleksitas pesawat terbang berteknologi tinggi yang sangat rumit telah dioutsourcing ke robot insinyur penerbangan untuk semua maksud dan tujuan pergi dari cockpits Hanya pilot yang lebih tua dan pilot angkatan udara yang memiliki kemampuan terperinci.


Dapatkan Yang Terbaru Dari Diri Sendiri


Kembali ke terra firma, di dunia mengemudi yang otonom, bisa jadi seluruh generasi masa depan tanpa pengalaman praktis apa pun mengemudi dan navigasi sebuah kendaraan.

Kami sudah melihat indikasi apa yang bisa salah ketika manusia meninggalkan kontrol sistem otonom.

Penyelidikan terhadap kecelakaan fatal dari Tesla Model S dengan autopilot mencatat bahwa perusahaan tersebut memberikan informasi tentang "keterbatasan sistem" kepada pengemudi. Dalam hal ini, masih tergantung pada driver untuk memperhatikan.

Tapi kesempatan apa yang dimiliki seseorang untuk mengambil alih kendali apa pun, semuanya akan mulai salah di masa depan mereka sepenuhnya kendaraan otonom. Apakah mereka bahkan tahu bagaimana menemukan tanda-tanda awal bencana yang akan datang?

Kehilangan jalan kita?

Mengemudi ini adalah determinisme teknologi yang percaya setiap dan semua inovasi secara intrinsik bagus. Sementara teknologi yang muncul mungkin telah menentukan apa itu menjadi manusia, tantangannya adalah untuk kenali risikonya dan apa yang harus dilakukan untuk memastikan semuanya tidak beres.

Itu semakin sulit karena kita telah menambah kompleksitas, terutama dengan mengemudi secara otonom kereta di pinggiran kota, taksi udara serta pengiriman drone.

Perancang sistem telah membangun sistem yang lebih besar dan lebih saling terkait untuk berbagi beban pemrosesan komputer meskipun ini membuat kandidat utama kreasi mereka rusak. Mereka mengabaikan fakta bahwa begitu semuanya terhubung, masalah dapat menyebar dengan mudah sebagai solusi, terkadang lebih dari itu.

Kompleksitas dunia otomatis yang tumbuh dan besar menimbulkan risiko yang sama.

Titik bahaya

Bila ditinjau kembali, yang dibutuhkan adalah kemampuan untuk memotong jaringan bebas bila ada titik kegagalan, atau setidaknya untuk menutup bagian dari satu jaringan bila ada titik kegagalan di tempat lain di dalamnya.

Ini "islanding" adalah fitur grid listrik cerdas yang menyediakan ruang lingkup untuk membagi jaringan menjadi fragmen yang mampu mempertahankan sendiri kebutuhan daya internal mereka. Pemodelan telah menunjukkan hal itu lebih sedikit koneksi dapat menyebabkan keamanan lebih.

Bisakah sains kompleksitas yang ada membantu menunjukkan di mana titik-titik bahaya mungkin terletak pada jaringan yang sangat saling berhubungan? Marten Scheffer dan rekannya berpikir begitu. Dia telah melihat kesamaan antara perilaku sistem alam dan sistem ekonomi dan keuangannya.

-Nya pekerjaan sebelumnya di danau, terumbu karang, laut, hutan dan padang rumput, menemukan bahwa lingkungan yang terkena perubahan bertahap seperti iklim, beban hara dan kehilangan habitat dapat mencapai titik kritis yang mengubahnya menjadi keadaan rendah yang kadangkala ireversibel.

Mungkinkah para bankir dan ekonom bergulat dengan stabilitas pasar keuangan belajar dari para periset di bidang ekologi, epidemiologi dan klimatologi untuk mengembangkan penanda kedekatan dengan ambang kritis dan kerusakan sistem?

Pada bulan Februari 2016 ini semua datang bersama dalam bentuk sebuah makalah tentang teori kompleksitas dan peraturan keuangan co-ditulis oleh berbagai ahli termasuk ekonom, bankir, fisikawan, ahli iklim, ahli ekologi, zoologi, dokter hewan dan ahli epidemiologi.

Mereka merekomendasikan integrasi data, metode dan indikator online, memberi makan tes stres untuk sistem sosial ekonomi dan keuangan global dalam waktu dekat. Yang pertama mirip dengan apa yang telah dicapai dalam menghadapi sistem kompleks lainnya seperti cuaca.

Kita dapat mulai melihat bagaimana contoh kita tentang dunia mengemudi yang otonom melipat menjadi pertanyaan tentang stabilitas jaringan. Bayangkan sebuah jaringan kendaraan otonom yang sangat saling berhubungan.

Ada kebutuhan yang jelas untuk mengetahui bagaimana mendeteksi dan mengisolasi titik-titik kegagalan potensial di jaringan semacam itu, sebelum ada yang salah dengan konsekuensi yang berpotensi tragis. Ini lebih dari sekedar melindungi pengemudi dan penumpang dari kegagalan sistem apapun dalam satu kendaraan otonom.

Sudah waktunya untuk berpikir bagaimana kita bisa menggunakan kemajuan multidisipliner dalam memahami kestabilan jaringan skala besar tersebut untuk menghindari konsekuensi drastis.

Tentang Penulis

Peter Fisher, Profesor Ajun, Studi Global, Perkotaan dan Sosial, Universitas RMIT

Artikel ini awalnya diterbitkan pada Percakapan. Membaca Artikel asli.

Buku terkait

{amazonWS: searchindex = Buku; kata kunci = otomasi salah; maksresult = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

ikuti InnerSelf di

facebook-icontwitter-iconrss-icon

Dapatkan Terbaru Dengan Email

{Emailcloak = off}