Foto: Shutterstock/Hamara

Silicon Valley Bergerak Cepat dan Menghancurkan Segalanya di Bidang Pertahanan? 

oleh Elke Schwarz

Saya seorang propagandis, saya akan memutarbalikkan kebenaran, saya akan mengemukakan versi saya saja jika saya pikir itu akan mempropagandakan orang agar mempercayai apa yang saya ingin mereka percayai.

Ini bukan cuplikan dari momen yang sangat menggembirakan dalam acara televisi populer Mad Men. Kata-kata ini diucapkan oleh Palmer Luckey, CEO perusahaan rintisan teknologi militer paling populer di Silicon Valley. Perusahaan Luckey, Anduril Industries, mengkhususkan diri dalam sistem yang didukung kecerdasan buatan, termasuk sistem senjata otonom. Dengan valuasi sebesar US$14 miliar, Anduril merupakan salah satu sayang dari dunia usaha rintisan pertahanan dan ekosistem modal ventura (VC) yang baru muncul di mana janji-janji besar, taruhan besar, dan kecenderungan ke arah propaganda merupakan hal pokok yang diperlukan untuk meraih kesuksesan.

Integrasi kecerdasan buatan (AI) ke dalam program pertahanan, apalagi sistem persenjataan, masih kontroversial. Komite Kecerdasan Buatan dalam Sistem Persenjataan Inggris telah mendesak agar berhati-hati mengenai proses pengadaan senjata berbasis AI, namun – sebagaimana yang sering terjadi ketika menyangkut produk Silicon Valley – pengembangan, pengadaan, dan peluncuran program pertahanan AI telah meningkat tajam dalam beberapa tahun terakhir.

Didirikan pada tahun 2017, Anduril telah mendapatkan beberapa kontrak bernilai jutaan dolar dari Departemen Pertahanan AS (DoD), serta Kementerian Pertahanan Inggris (MoD). Dengan latar belakang perang Rusia-Ukraina yang sedang berlangsung, perang di Gaza, dan meningkatnya ketegangan global, hal ini mungkin tidak tampak sebagai perkembangan yang mengejutkan.

In penelitian terbaru saya Mengenai AI militer, saya mengidentifikasi bahwa salah satu pendorong utama percepatan pengadaan produk rintisan militer, seperti pesawat nirawak otonom dan sistem lain yang mendukung AI, adalah masuknya sejumlah besar uang dan pengaruh modal ventura. Perusahaan modal ventura ini membutuhkan organisasi pertahanan untuk mengadopsi etos industri teknologi tentang kecepatan dan skala serta selera dunia modal ventura terhadap risiko dan revolusi. Hal ini menjadikan perusahaan-perusahaan ini tidak hanya pelaku keuangan tetapi juga pelaku politik.

Penelitian saya, dipublikasikan di Keuangan dan Masyarakat, menunjukkan bahwa tren pembentukan pertahanan dalam citra Lembah Silikon, yang dimotivasi oleh kepentingan modal ventura, kemungkinan akan menjadi lebih jelas dan meluas. Dengan mengingat hal ini, ada baiknya mencermati lebih dekat dinamika yang terjadi ketika modal ventura mengarahkan perhatiannya pada masalah hidup dan mati.

Finansial militer yang sedang berkembang

Industri AI militer dan belanja pertahanan global sedang berkembang pesat. Saat ini perkiraan, pasar AI militer global bernilai US$ 13.3 miliar pada tahun 2024, dengan proyeksi pertumbuhan menjadi US$ 35 miliar dalam tujuh tahun ke depan. Angka-angka ini bervariasi, tergantung pada layanan data pasar yang dikonsultasikan, tetapi telah direvisi naik secara berkala dalam 12 bulan terakhir. Anggaran pertahanan global juga telah membengkak dengan latar belakang konflik yang sedang berlangsung dan pergeseran umum menuju militerisasi dalam 24 bulan terakhir.

Pertahanan global pengeluaran mencapai rekor tertinggi sebesar lebih dari US$ 2 triliun pada tahun 2023. Dengan US$ 877 miliar, AS dicatat untuk hampir 40% dari pengeluaran pertahanan global pada tahun 2023. aliansi NATO akan menghabiskan US$ 1.47 triliun pada tahun 2024. Ini adalah angka yang besar dan menarik bagi perusahaan teknologi dan keuangan besar yang berniat mendapatkan pijakan di pasar pertahanan.

The Bagian wawasan berkomitmen pada kualitas tinggi jurnalisme bentuk panjangEditor kami bekerja dengan akademisi dari berbagai latar belakang yang menangani berbagai tantangan sosial dan ilmiah.

Sementara itu, organisasi pertahanan mulai menghabiskan lebih banyak uang untuk teknologi mutakhir, termasuk, tak pelak lagi, AI. Sebuah studi Brookings Institute tahun 2024 Laporan menemukan bahwa kontrak pertahanan untuk teknologi terkait AI meningkat nilainya hampir 1200% dalam 12 bulan dari Agustus 2022 hingga Agustus 2023.

Untuk sebagian besar produk AI baru, baik sipil maupun lainnya, beberapa bentuk pendanaan modal ventura sering kali terlibat, terutama jika usaha AI yang dimaksud mungkin terbukti terlalu berisiko untuk didanai melalui pinjaman bank atau instrumen keuangan lainnya. Modal ventura bersedia menerima taruhan atas inovasi yang tidak akan atau tidak dapat diambil oleh penyandang dana lain.

Dalam dua dekade terakhir, jenis pendanaan ini terutama difokuskan pada produk-produk Silicon Valley untuk pasar sipil, di mana dinamikanya telah memungkinkan keuntungan luar biasa bagi para investor. Namun, seiring dengan pertumbuhan pasar pertahanan, dan peluang untuk mendapatkan keuntungan modal ventura yang luar biasa di bidang komersial berkurang, mereka yang memiliki modal dalam jumlah besar untuk berinvestasi melihat peluang baru untuk mendapatkan keuntungan besar dalam pertahanan dalam genggaman mereka.

Oleh karena itu, tidak mengherankan jika dalam lima tahun terakhir, investasi modal ventura dalam teknologi pertahanan telah melonjak. Dari tahun 2019 hingga 2022, pendanaan modal ventura AS untuk perusahaan rintisan teknologi militer telah meningkat. dua kali lipat, dan sejak tahun 2021, sektor teknologi pertahanan telah mengalami peningkatan injeksi sebesar US$130 miliar dalam bentuk uang modal ventura.

Belanja modal ventura juga mencapai titik tertinggi sepanjang masa untuk sektor pertahanan Eropa; investasi modal ventura swasta diproyeksikan mencapai rekor US$ 1 miliar, sebagian besar didorong oleh perusahaan ventura AS. Ada desas-desus yang jelas di udara tentang kemungkinan usaha yang didukung VC dan kemungkinan untuk membentuk kembali lanskap pertahanan.

Hubungan modal ventura, militer, dan Lembah Silikon

Modal ventura selalu terhubung dengan sektor militer dalam beberapa hal. Bahkan, ledakan investasi pertahanan modal ventura saat ini dapat dilihat sebagai kembalinya ke masa-masa awalnya. Asal usul modal ventura adalah biasanya ditelusuri kembali kepada Perusahaan Penelitian dan Pengembangan Amerika (ARDC) yang didirikan pada tahun 1946, tepat setelah perang dunia kedua di mana AS didukung oleh kemenangan yang dicapai, setidaknya sebagian, dengan teknologi mutakhir.

ARDC merupakan salah satu perusahaan pertama yang secara sistematis mengumpulkan modal dari investor institusional untuk membiayai perusahaan rintisan dengan potensi tinggi tetapi terlalu berisiko untuk pinjaman bank. Dengan pendekatan ini, ARDC merupakan perusahaan modal ventura pertama yang menciptakan portofolio investasi yang sering kali mengandalkan satu atau dua keberhasilan luar biasa untuk mengimbangi sebagian besar perusahaan yang hanya menghasilkan laba yang sangat kecil atau bahkan kerugian. Dengan cara ini, ARDC merupakan perusahaan pertama yang disebut sebagai "unicorn".

Unicorn adalah perusahaan muda yang menerima valuasi sebesar US$ 1 miliar atau lebih (hingga saat ini merupakan kesempatan yang sangat langka bagi perusahaan rintisan dan sesuatu yang didambakan setiap investor dalam portofolio mereka). Inilah inti dari investasi modal ventura: ini adalah modal risiko dengan potensi imbalan yang sangat tinggi.

Terutama pada masa-masa awal, setelah perang dunia kedua, banyak investasi yang diberikan untuk mendukung perusahaan rintisan yang bergerak di bidang inovasi dan teknologi militerHal ini menghasilkan berbagai instrumen analitis, generator tegangan tinggi, teknologi deteksi radiasi, serta perusahaan komputer mini awal, seperti Digital Equipment Corporation.

Lanskap digital, seperti yang kita ketahui saat ini, berakar dari dunia militer. Inovasi dalam teori komunikasi ditujukan untuk teknologi rudal militer pada tahun 1950-an, para pencetus AI hampir semuanya bekerja pada proyek militer pertengahan abad dan bahkan internet itu sendiri muncul dari proyek militer, yang kemudian diberi nama Arpanet.

Banyak perusahaan Silicon Valley yang masih terlibat dengan sektor militer selama beberapa dekade dan, seperti yang dikatakan antropolog Roberto Gonzales tertulis, hampir “semua raksasa teknologi saat ini memiliki DNA dari industri pertahanan, dan memiliki sejarah panjang kerja sama dengan Pentagon”. Jadi, DNA modal ventura tergabung dalam hubungan ini.

Namun, perlu ditekankan bahwa secara tradisional kebutuhan organisasi militer dan pemerintahlah yang sebagian besar menentukan kecepatan, struktur, dan proses inovasi teknologi.

Kini, kecepatan dan fokus teknologi dan inovasi militer semakin ditentukan oleh industri rintisan teknologi yang semakin vokal dan kuat serta para penyandang dananya yang telah meluncurkan serangkaian “Modal patriotik”inisiatif, seperti Dinamisme Amerika; itu Proyek Studi Kompetitif Khusus, Membangun Kembali Persenjataan Demokrasi dan Dana Perbatasan AmerikaPerusahaan-perusahaan ini digagas oleh segelintir perusahaan dan individu terkemuka di bidang teknologi pertahanan baru untuk membentuk prioritas pertahanan dan militer serta menghasilkan keuntungan yang baik saat melakukannya. Didukung oleh sejumlah besar modal ventura, perusahaan unicorn berkembang biak di bidang pertahanan, termasuk unicorn teknologi militer baru seperti Industri Anduril, Perisai AI, skydio, Skala AI dan Palantir (Secara teknis, Palantir bukan lagi perusahaan rintisan sejak go public pada tahun 2020, tetapi masih menjadi bagian dari kelompok teknologi militer baru).

Ini adalah perkembangan terkini. Dalam dua dekade dari pertengahan 90-an hingga 2014, sektor modal ventura memfokuskan upayanya pada lanskap teknologi sipil yang berkembang pesat, di mana langit adalah batas yang tak terhingga untuk keuntungan dari perusahaan rintisan teknologi seperti Google, Microsoft, Facebook, dan PayPal.

Sebaliknya, pasar pertahanan dianggap matang dan terkonsolidasi, dengan aturan dan regulasi akuisisi yang ketat, dan peluang yang terlalu kecil untuk mendapatkan keuntungan investasi yang besar. Agar kontrak pemerintah dapat terwujud, sering kali dibutuhkan waktu bertahun-tahun. Pertahanan juga didominasi oleh segelintir pemain industri utama – yang disebut sebagai pemain utama yang meliputi Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics, dan BAE Systems.

Perusahaan-perusahaan ini membagi pangsa pasar pertahanan yang paling besar di antara mereka sendiri dan tampaknya hanya ada sedikit peluang bagi perusahaan rintisan teknologi untuk masuk tanpa upaya besar. Misalnya, perusahaan seperti Space X dan Palantir menggugat Angkatan Udara AS dan Angkatan Darat AS pada tahun 2014, masing-masing, untuk mendapatkan kesempatan mengajukan penawaran untuk kontrak tertentu. Penggunaan hukum untuk membuka pertahanan bagi perusahaan rintisan militer sejak saat itu semakin meluas.

Selain rintangan struktural ini untuk investasi modal ventura di sektor pertahanan, ada biaya moral nominal yang lebih besar yang terkait dengan gagasan untuk mendapatkan keuntungan dari perang. Karena investor modal ventura sering kali berupa dana abadi, yayasan, perusahaan asuransi, universitas, dan dana pensiun, ada keengganan untuk dianggap berinvestasi dalam "portofolio pertahanan" – atau dengan kata lain, dalam instrumen kematian. Investor modal ventura Eropa sangat berhati-hati.

Namun, kecepatan meredanya kekhawatiran ini dalam kurun waktu kurang dari satu dekade sangat luar biasa, yang menunjukkan bahwa para investor yang mendukung perusahaan modal ventura berasal dari latar belakang yang berbeda yang mungkin tidak ragu-ragu ketika harus mengambil keuntungan dari bisnis perang, atau, bahwa itu selalu terutama hanya masalah matematika ketimbang moral.

Unicorn dan pertumbuhan hiper

Saat ini, semua orang ingin berinvestasi pada perusahaan unicorn karena nilainya berpotensi meroket.

Namun, untuk bisa masuk ke pasar dengan produk atau konsep yang belum terbukti, beberapa perusahaan rintisan dapat termotivasi untuk membuat klaim yang besar dan berani tentang sifat produk mereka yang revolusioner dan mampu membawa perubahan. Bahkan setelah perusahaan mendapatkan pendanaan, etos untuk menjanjikan terlalu banyak sering kali tetap dijunjung tinggi untuk mempertahankan keberhasilan menuju pertumbuhan yang pesat.

Dalam skenario terburuk, pemberian janji berlebih dilakukan dalam skala sedemikian rupa hingga mengarah pada penipuan kriminal, seperti halnya yang terjadi pada perusahaan rintisan pengujian darah ternama Theranos, yang berubah dari salah satu perusahaan rintisan perawatan kesehatan paling menarik, dengan valuasi mencapai US$ 10 miliar pada puncaknya di tahun 2015, menjadi perusahaan yang bangkrut total dalam waktu empat tahun.

Dalam kasus Theranos, pendiri perusahaan yang karismatik itu telah terlalu menjanjikan kemampuan teknologi tersebut, dengan mengklaim bahwa teknologi itu akan memungkinkan serangkaian pengujian yang dapat dilakukan hanya dengan setetes darah. Teknologi yang sangat inovatif ini “dapat merevolusi pengobatan dan menyelamatkan nyawa di seluruh dunia".

Itu adalah janji yang berorientasi ke masa depan – teknologinya belum dapat melakukan apa yang dijanjikan – meskipun demikian perusahaan tersebut mengklaim telah memiliki perangkat pengujian yang berfungsi, yang ternyata adalah kebohongan. Theranos tutup pada tahun 2018 dan pendirinya yang karismatik, Elizabeth Holmes, masuk penjara.

Menjual fantasi

Ada banyak kisah lain yang tidak terlalu dramatis, namun terjadi dengan cara yang serupa, meskipun tidak curang: perusahaan yang menjanjikan untuk merevolusi cara kita melakukan hal-hal biasa dengan teknologi inovatif, yang ternyata tidak berkelanjutan, tidak bisa diterapkan, atau akhirnya gagal.

Namun hasilnya adalah para investor kehilangan uang, dan, yang lebih penting, orang-orang yang mengandalkan janji teknologi tersebut menjadi rugi.

Dalam konteks pertahanan, janji-janji teknologi militer baru berputar di sekitar penjualan pencegahan yang kuat, Dari melindungi demokrasi, mampu memiliki informasi yang komprehensif, akurat, pengetahuan waktu nyata, dari a bola dunia yang sepenuhnya transparan, dan, pertama dan terutama yang bersih, kemenangan cepat dan menentukan dengan konektivitas yang lancar dan mudah.

Hal ini dapat menumbuhkan, paling buruk, fantasi tentang kemahatahuan dan kemahahadiran dan, paling baik, hal ini memicu keinginan untuk revolusi yang mustahil dalam peperangan yang terlalu menarik untuk ditolak dan akhirnya menarik khalayak yang semakin luas ke dalamnya. Narasi-narasi ini sering didukung oleh sensasi umum bahwa masa depan dengan AI tidak dapat dihindari. Hal ini menghasilkan alur cerita yang kuat yang memitologikan dan menghargai teknologi yang mungkin tidak akan pernah memberikan apa yang dijanjikan. Ini adalah campuran ampuh yang sering kali menolak suara-suara yang lebih serius. yang mendesak kehati-hatian.

Klaim yang dibuat oleh perusahaan pertahanan unicorn mungkin sering tampak masuk akal, tetapi biasanya tidak dapat diverifikasi, karena klaim tersebut membahas masa depan. Dan seringkali masa depan tersebut mencerminkan visi yang dibentuk oleh fiksi dan fiksi ilmiah, yang selalu beberapa derajat jauhnya dari tantangan sosial dan politik realitas.

Godaan untuk memberikan janji yang berlebihan dan memitologisasi teknologi yang memungkinkan ini membentuk program-program yang berupaya mewujudkan transparansi global dan jangkauan global dengan cepat. Program Komando dan Kontrol Gabungan untuk Semua Domain (JADC2) adalah salah satu upaya yang diprakarsai oleh Pentagon. Program ini bertujuan untuk menghubungkan semua domain – darat, udara, laut, angkasa, dan dunia maya – ke dalam satu jaringan untuk ““analisis prediktif” dan “pertempuran berkecepatan tinggi”".

Untuk membuat program ini dapat diterima oleh Kongres, JADC2 sering disamakan dengan berbagi perjalanan platform Uber, menjanjikan interaksi yang lancar antara sistem dan platform untuk intervensi yang cepat. Hal ini memfokuskan kembali perhatian pada AI sebagai kebutuhan infrastruktur untuk semua aset dan platform militer. Tanpa memperluas AI militer, visi ini tidak akan mungkin terwujud. Di sinilah peluang bagi perusahaan rintisan militer berada.

Dua perusahaan teknologi militer terkemuka adalah kontraktor untuk JADC2 – Anduril dan PalantirKedua perusahaan tersebut tidak merahasiakan ambisi mereka untuk mengganggu sektor pertahanan, menyingkirkan yang utama saat ini, dan mengukir sepotong monopoli pasar untuk mengamankan keuntungan yang semakin besar.

Palantir memiliki mengarahkan pandangannya tentang “menjadi sistem operasi pusat untuk semua program pertahanan AS”; Anduril telah menyatakan bahwa hal itu akan menjadi “setelah semua yang ada di daftar [Departemen Pertahanan]” untuk mendominasi sektor tersebut. Bagi kedua perusahaan, ini adalah pertarungan – pertarungan untuk pertumbuhan.

Seperti yang dikatakan Luckey dari Anduril: “Anda harus bertarung dan menang di berbagai area(Yang dimaksudkannya adalah strategi perusahaan, bukan medan perang yang sebenarnya). Demikian pula, CEO dan salah satu pendiri Palantir, Alex Karp, mengakui bahwa, untuk mendobrak pasar pertahanan yang terbuka lebar, ia bangga untuk “telah menyeret dan menendang dan membujuk dan mempermalukan”berbagai anggota parlemen, pembuat kebijakan, dan pemerintah membantu mencapai tujuan ini. Bergerak cepat dan hancurkan berbagai hal.

Membangun perusahaan unicorn membutuhkan usaha bersama dan sikap agresif dari pihak-pihak yang ingin mendapatkan keuntungan finansial terbesar di bidang ini. Cara terbaik untuk melakukannya adalah dengan bersekutu dengan pihak-pihak lain yang memiliki pemikiran yang sama. Dalam lanskap modal ventura pertahanan saat ini, terdapat hubungan yang erat antara pendiri dan penyandang dana.

Peter Thiel, misalnya, adalah salah satu pendiri Palantir, ia juga mengelola perusahaan VC Founders Fund yang berinvestasi di Space X, Anduril, dan Scale AI, serta beberapa perusahaan lainnya. Perusahaan VC Andreessen Horowitz juga mendanai SpaceX, Anduril, Shield AI, dan Skydio. Para manajer perusahaan VC ini memiliki hubungan yang sudah lama terjalin satu sama lain. Demikian pula, ada hubungan yang terjalin di antara perusahaan-perusahaan tersebut. Anduril, misalnya, dimulai oleh mantan karyawan Palantir yang mengambil pengalaman mereka dari Palentir dan menerapkannya di Anduril. Palmer Luckey, sebelumnya dari Oculus Rift, diangkat sebagai CEO yang karismatik dan blak-blakan.

Peter Thiel dan Eric Schmidt (mantan CEO Google dan Ketua Komisi Keamanan Nasional AS untuk Kecerdasan Buatan) adalah investasi di America's Frontier Fund, dan seterusnya. Ada jaringan pemodal dan perusahaan rintisan yang sangat erat dan terhubung dengan baik yang semuanya bekerja untuk memperkuat pesan utama: sektor pertahanan membutuhkan disrupsi dan kamilah yang akan mengguncangnya.

Pada panel baru-baru ini memberikan bukti kepada Komite Angkatan Bersenjata AS adalah perwakilan dari lima perusahaan rintisan militer. Kelima perusahaan tersebut didanai oleh perusahaan modal ventura Andreessen Horowitz atau berafiliasi dengan perusahaan tersebut.

Pada sidang Komite Angkatan Bersenjata AS, Kepala Teknologi Palantir, Shyam Sankar, memberi bukti mengadvokasi “hal-hal yang lebih gila” dan “membiarkan kekacauan terjadi” dalam proses pengadaan dan akuisisi militer, sehingga insentif yang diperlukan dapat dikembangkan untuk inovasi melalui persaingan antar departemen.

Batasan regulasi, menurutnya, “membatasi Anda untuk melakukan pengawasan” dan dia “dengan senang hati akan menerima lebih banyak kegagalan jika itu berarti kita memiliki lebih banyak keberhasilan yang dahsyat”. Keberhasilan macam apa ini, atau apa implikasinya terhadap kegagalan, masih belum dibahas tetapi jelas bahwa CTO Palantir berbicara dengan logika modal ventura dalam pikirannya. Dan, menurut sebuah laporan AS baru-baru ini Laporan Dewan Inovasi Pertahanan, tampaknya pemerintah siap menanggung risiko lebih besar dan memberikan perlindungan lebih bagi “para pemberontak” tersebut.

Narasi ‘krisis’

Selain membina perusahaan rintisan dengan potensi tinggi, ada sejumlah cara untuk menyesuaikan sektor pertahanan dengan kebutuhan kontraktor Lembah Silikon dan pendukung modal ventura mereka. Kekuatan narasi juga sangat penting di sini. Manajer modal ventura dan perusahaan rintisan mereka sering menulis opini penting yang membahas Buruknya kondisi pertahanan (AS) sangat disesalkan, dimana kebutuhan akan percepatan inovasi ditekankan, dan di mana kemungkinan bahwa AS “sangat mungkin” terlibat dalam “perang tiga front dengan Tiongkok, Rusia dan Iran” disulap. Singkatnya, kisah urgensi diputarbalikan untuk membantu memberi nilai tambah pada perusahaan-perusahaan yang dianggap mampu mengatasi krisis yang mendesak.

Pilar kedua dalam perombakan struktural pertahanan adalah dengan menggunakan jaringan rumit mantan pegawai pemerintah yang berfungsi sebagai pelobi atau penasihat yang memiliki hubungan dekat dengan pemerintah.

Mantan Anggota Kongres Republik Mike Gallagher, misalnya, menjadi Kepala Operasi Pertahanan Palantir pada bulan Agustus 2024 dan mantan Penasihat Keamanan Nasional HR McMaster sekarang menjadi Penasihat Senior di Shield Capital. Masih banyak lagi “pintu putar"momen-momen di mana para ahli yang kredibel memberikan wewenang mereka kepada perusahaan rintisan baru. Dunia perusahaan rintisan teknologi militer, seperti kebanyakan kreasi Silicon Valley, memiliki reputasi tertentu dan uangnya juga menarik.

Anduril, setelah belajar dari Palantir, menyewa banyak pelobi di minggu pertama, menghabiskan lebih banyak uang untuk “pengacara dan pelobi dibandingkan insinyur” seperti yang dicatat Luckey dalam wawancara baru-baru ini dengan The Economist.

Dengan ini, Anduril mengadopsi cara yang relatif tradisional dalam membentuk lanskap pertahanan, yang juga digunakan oleh kontraktor pertahanan utama yang, seperti diakui Anduril dalam Pos blog 2022, sebuah insentif “untuk menghabiskan banyak uang pada tim pengacara dan pelobi untuk membentuk persyaratan program sesuai dengan teknologi yang dimiliki perusahaan”.

Anduril dan para pendukungnya kini melakukan hal yang sama, yang disesuaikan dengan rangkaian teknologi mereka sendiri. Para pengacara sering kali dipekerjakan tidak hanya untuk mengawasi penggabungan, akuisisi, dan kemitraan, tetapi juga sebagai cara untuk menggunakan hukum sebagai instrumen untuk memaksakan reformasi.

Sasaran utama gugatan SpaceX dan Palantir terhadap angkatan darat dan angkatan udara AS yang saya sebutkan sebelumnya bukanlah untuk menang (gugatan Space X tidak berhasil, gugatan Palantir berhasil), tetapi untuk membuka ruang bagi perombakan akuisisi dan kedua gugatan tersebut berhasil mencapai hal itu.

Strategi untuk menciptakan rasa urgensi, memperkuat kerja sama dengan pelobi, dan menciptakan kemungkinan struktural untuk perombakan pertahanan kini tengah berjalan dengan baik. Untuk lebih jelasnya, saya tidak berpendapat bahwa sektor pertahanan tidak akan mendapat manfaat dari modernisasi atau restrukturisasi. Saya juga tidak berpendapat bahwa semua produk rintisan militer tidak relevan atau tidak berkelanjutan. Saya juga tidak ingin mengadu domba perusahaan-perusahaan rintisan dengan dinamika modal ventura baru dan fokus mereka pada pertumbuhan.

Namun, yang menurut saya layak untuk diteliti adalah dinamika yang terjadi dengan perusahaan-perusahaan baru ini dan prioritas serta kepentingan tersirat mereka, karena hal tersebut akan membentuk praktik dan prioritas. Dan ketika terjadi disrupsi, beberapa tingkat kerusakan dapat diharapkan. Dan hal ini memiliki nada yang berbeda dalam hal hidup dan mati.

Puing-puing gangguan

Disrupsi sektor pertahanan sedang berlangsung dan upaya untuk membentuknya sesuai citra Silicon Valley telah membuahkan hasil dalam beberapa tahun terakhir dengan sejumlah hasil konkret. Program JADC2 yang disebutkan sebelumnya adalah salah satunya. Program lainnya terlihat jelas dalam program seperti Departemen Pertahanan AS Inisiatif Replikator, yang menggabungkan tujuan, jadwal, dan produk yang ditawarkan oleh perusahaan rintisan militer Silicon Valley.

Level tinggi pejabat pertahanan mengulang topik pembicaraan industri modal ventura dan berbagai program akuisisi telah disesuaikan untuk mengakomodasi kecepatan dan skala yang dibutuhkan. Perusahaan-perusahaan ini memiliki telinga para pembuat kebijakan dan tuntutan untuk “kuasi-spiritual”Reformasi Pertahanan” menemukan audiens yang semakin berkembang.

Jadi apa saja kemungkinan konsekuensinya?

Ketika Uber mengganggu industri transportasi pribadi, mereka meninggalkan banyak dampak hukum ketenagakerjaan yang terkikis, hak pekerja dan ketentuan perawatan kesehatan untuk pengemudi. Ketika AirBnB mengguncang industri akomodasi, hal ini mengakibatkan kenaikan harga sewa di destinasi wisata populer. Ketika Anda mencoba menciptakan monopoli, selalu ada konsekuensi sosial dan politik. Seringkali konsekuensi ini dapat diperkirakan, terkadang tidak.

Mengganggu proses akuisisi pertahanan setidaknya mengorbankan pengawasan yang lebih besar terhadap proses akuisisi. Sektor teknologi tidak dikenal karena apresiasinya terhadap batasan regulasi. Justru sebaliknya. Beberapa penyandang dana paling menonjol dari lanskap startup militer baru adalah paling vokal menentang untuk setiap jenis regulasi.

Tokoh VC ternama Marc Andreessen, misalnya, menulis manifesto Tekno-Optimis di mana ia menyebut manajemen risiko, kepercayaan dan langkah-langkah keamanan serta prinsip kehati-hatian sebagai “musuh”.

Berkurangnya regulasi berarti berkurangnya pengawasan dan akuntabilitas, tidak hanya dalam hal pengeluaran tetapi juga dalam hal bagaimana dan di mana teknologi tertentu digunakan dan apa dampaknya. Hal ini terbukti.

Namun, ada banyak konsekuensi lain yang sangat masuk akal yang dapat kita ramalkan dengan percepatan perolehan dan peluncuran teknologi militer untuk pertempuran. Salah satunya adalah pemfokusan ulang pada risiko dan eksperimen.

Teknologi rintisan militer terkini, seperti pesawat nirawak yang didukung AI dan sistem pendukung keputusan AI, sedang diuji dan ditingkatkan secara langsung dan selama konflik yang sedang berlangsung, seperti dalam perang Rusia-Ukraina, tetapi juga di Gaza. Ini adalah bentuk prototyping yang menjadi semakin menonjol dan membutuhkan medan perang aktif untuk pengujian, iterasi, dan pengoptimalan teknologi yang efektif.

Ini juga berarti bahwa ada kemungkinan teknologi yang digunakan tidak sesuai dengan tujuannya, hanya untuk diuji dan ditingkatkan seiring berjalannya waktu. Ini menormalkan, jika tidak mendukung, peluncuran dan penjualan produk AI yang cacat dan mungkin tidak memadai, yang pasti akan membahayakan warga sipil tak berdosa yang terjebak dalam konflik.

Kita dapat mengamati hal ini sekarang dengan dorongan perusahaan teknologi untuk menjual model bahasa besar mereka ke organisasi militer. Scale AI, misalnya, telah bekerja sama dengan Meta untuk menjual produk LLM, Pertahanan Llama, untuk tujuan pertahanan. Perusahaan tersebut mengatakan bahwa keterlibatan manusia “sangat diperlukan” untuk sistem tersebut.

Tapi mengingat fakta yang sudah diketahui bahwa LLM rentan terhadap apa yang dikenal sebagai halusinasi, peluang bahwa teknologi tersebut akan bekerja persis seperti yang diiklankan sangat kecil untuk konteks yang kompleks dan dinamis seperti peperangan. Hal ini dapat membahayakan mereka yang terperangkap di tengah-tengah eksperimen, penyempurnaan, dan pengujian langsung ini. Kekhawatiran utama adalah bahwa teknologi tersebut mungkin tidak cocok untuk hal yang tidak terduga, untuk elemen yang kurang dapat diperhitungkan atau kurang dapat diramalkan dalam peperangan. Itu termasuk potensi ancaman teror yang muncul atau tindakan oleh negara-negara yang sering dianggap tidak rasional; seperti Korea Utara, misalnya.

CEO Anduril, Luckey, mengakui hal itu dalam wawancara yang saya mulai. Ia mengakui bahwa logika yang menjadi dasar pembuatan senjatanya tidak sesuai dengan musuh potensial yang menghindari pendekatan teoritis permainan yang menjadi dasar sebagian besar logika AI untuk pertahanan: “Sangat sulit untuk terlibat dalam teori permainan dengan orang-orang yang mengejar strategi optimal non-teori permainan… Ini seperti bermain monopoli dengan orang yang akan berhenti dan memberikan semua uangnya kepada orang lain.” Keterbatasan serius untuk sesuatu yang penuh dengan peluang seperti peperangan.

Ada pula efek tingkat kedua dan ketiga yang muncul dari pergeseran ke arah logika modal ventura ini. Dengan memunculkan ancaman yang akan segera terjadi, lanskap risiko dan keamanan global yang lebih luas dapat berubah; dengan memprioritaskan teknologi persenjataan, pendanaan untuk cara lain untuk mengatasi konflik dapat dibatasi, dengan mendedikasikan jumlah yang semakin besar untuk teknologi yang masih belum teruji dan mungkin tidak permanen, sejumlah besar uang yang seharusnya dapat dialokasikan dengan lebih baik di tempat lain dapat terbuang sia-sia.

Namun, ini adalah negeri khayalan dan hal-hal yang mustahil, di mana pertimbangan seperti itu sama spekulatifnya dengan janji-janji senjata AI yang sangat digembar-gemborkan sebagai pembela demokrasi.

Di Silicon Valley, semboyan "bergerak cepat dan memecahkan masalah" menyiratkan bahwa masalah yang muncul dalam peluncuran teknologi selalu dapat diatasi dan dipecahkan nanti. Dalam dunia pertahanan dan perang, kerusakan yang disebabkan oleh pengambilan risiko semacam ini tidak dapat dengan mudah diatasi.

The Conversation menyampaikan poin-poin yang diangkat dalam artikel ini kepada perusahaan teknologi dan modal ventura yang disebutkan. Mereka tidak menanggapi permintaan komentar kami.

Elke Hitam, Pembaca dalam Teori Politik, Queen Mary University of London

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait:

Tentang Tirani: Dua Puluh Pelajaran dari Abad Kedua Puluh

oleh Timotius Snyder

Buku ini menawarkan pelajaran dari sejarah untuk menjaga dan mempertahankan demokrasi, termasuk pentingnya institusi, peran individu warga negara, dan bahaya otoritarianisme.

Klik untuk info lebih lanjut atau untuk memesan

Waktu Kita Sekarang: Kekuatan, Tujuan, dan Perjuangan untuk Amerika yang Adil

oleh Stacey Abrams

Penulis, seorang politikus dan aktivis, membagikan visinya untuk demokrasi yang lebih inklusif dan adil serta menawarkan strategi praktis untuk keterlibatan politik dan mobilisasi pemilih.

Klik untuk info lebih lanjut atau untuk memesan

Bagaimana Demokrasi Mati

oleh Steven Levitsky dan Daniel Ziblatt

Buku ini membahas tanda-tanda peringatan dan penyebab kehancuran demokrasi, dengan mengambil studi kasus dari seluruh dunia untuk menawarkan wawasan tentang bagaimana melindungi demokrasi.

Klik untuk info lebih lanjut atau untuk memesan

The People, No: Sejarah Singkat Anti-Populisme

oleh Thomas Frank

Penulis menawarkan sejarah gerakan populis di Amerika Serikat dan mengkritik ideologi "anti-populis" yang menurutnya telah menghambat reformasi dan kemajuan demokrasi.

Klik untuk info lebih lanjut atau untuk memesan

Demokrasi dalam Satu Buku atau Kurang: Cara Kerjanya, Mengapa Tidak, dan Mengapa Memperbaikinya Lebih Mudah Daripada Yang Anda Pikirkan

oleh David Litt

Buku ini menawarkan ikhtisar demokrasi, termasuk kekuatan dan kelemahannya, dan mengusulkan reformasi untuk membuat sistem lebih responsif dan akuntabel.

Klik untuk info lebih lanjut atau untuk memesan

Rekap Artikel:

Para kapitalis ventura di Lembah Silikon mendorong inovasi AI militer sambil memperluas etos disruptif mereka ke proses demokrasi. Industri pertahanan, yang selama ini menolak perubahan, kini bergantung pada perusahaan rintisan yang didukung modal ventura yang menjanjikan efisiensi tetapi berisiko menimbulkan kekacauan. Dorongan yang sama untuk melakukan disrupsi ini telah memicu campur tangan pemilu, mengeksploitasi pengawasan regulasi yang lemah, dan memprioritaskan keuntungan daripada kepentingan publik. Dengan sistem militer yang semakin dibentuk oleh AI yang belum teruji dan demokrasi yang dirusak oleh ambisi perusahaan, taruhannya tidak pernah setinggi ini.

Hashtags:
#SiliconValley #IntervensiPemilu #AIMiliter #RisikoTeknologi #DemokrasiTerancam