Getty Images

Artificial Intelligence (AI) bergerak cepat dan akan menjadi alat pendukung penting dalam perawatan klinis. Penelitian menunjukkan algoritma AI dapat secara akurat mendeteksi melanoma dan memprediksi kanker payudara di masa depan.

Namun sebelum AI dapat diintegrasikan ke dalam penggunaan klinis rutin, kita harus mengatasi tantangan bias algoritmik. Algoritme AI mungkin memiliki bias bawaan yang dapat menyebabkan diskriminasi dan masalah privasi. Sistem AI juga dapat membuat keputusan tanpa pengawasan atau input manusia yang diperlukan.

 Contoh efek AI yang berpotensi berbahaya berasal dari proyek internasional yang bertujuan menggunakan AI untuk menyelamatkan nyawa dengan mengembangkan perawatan medis terobosan. Dalam sebuah percobaan, tim membalikkan model AI "baik" mereka untuk membuat opsi bagi model AI baru untuk melakukan "bahaya".

Dalam waktu kurang dari enam jam pelatihan, algoritme AI terbalik menghasilkan puluhan ribu agen perang kimia potensial, yang jauh lebih berbahaya daripada agen perang saat ini. Ini adalah contoh ekstrem mengenai senyawa kimia, tetapi berfungsi sebagai peringatan untuk mengevaluasi konsekuensi etis AI yang diketahui dan mungkin tidak dapat diketahui.

AI dalam perawatan klinis

Dalam kedokteran, kami berurusan dengan data paling pribadi dan keputusan yang seringkali mengubah hidup. Kerangka etika AI yang kuat sangat penting.

Grafik Proyek Epilepsi Australia bertujuan untuk meningkatkan kehidupan masyarakat dan membuat perawatan klinis tersedia lebih luas. Berdasarkan pencitraan otak tingkat lanjut, informasi genetik dan kognitif dari ribuan penderita epilepsi, kami berencana menggunakan AI untuk menjawab pertanyaan yang saat ini tidak dapat dijawab.

Apakah kejang orang ini akan berlanjut? Obat apa yang paling manjur? Apakah operasi otak merupakan pilihan pengobatan yang layak? Ini adalah pertanyaan mendasar yang harus dijawab oleh pengobatan modern.

Sebagai AI yang memimpin proyek ini, perhatian utama saya adalah bahwa AI bergerak cepat dan pengawasan regulasi minimal. Masalah-masalah ini adalah mengapa kami baru-baru ini mendirikan sebuah kerangka etis untuk menggunakan AI sebagai alat pendukung klinis. Kerangka kerja ini bertujuan untuk memastikan teknologi AI kami terbuka, aman, dan dapat dipercaya, sekaligus mendorong inklusivitas dan keadilan dalam perawatan klinis.

Jadi bagaimana kita menerapkan etika AI dalam kedokteran untuk mengurangi bias dan mempertahankan kendali atas algoritme? Prinsip ilmu komputer "sampah masuk, sampah keluar" berlaku untuk AI. Misalkan kita mengumpulkan data bias dari sampel kecil. Algoritme AI kami kemungkinan akan bias dan tidak dapat direplikasi di lingkungan klinis lain.

Contoh bias tidak sulit ditemukan dalam model AI kontemporer. Model bahasa besar populer (ChatGPT misalnya) dan model difusi laten (DALL-E dan Stable Diffusion) menunjukkan caranya bias eksplisit tentang jenis kelamin, etnis dan status sosial ekonomi dapat terjadi.

Para peneliti menemukan bahwa permintaan pengguna yang sederhana menghasilkan gambar yang melanggengkan stereotip etnis, gender, dan kelas. Misalnya, prompt untuk dokter menghasilkan sebagian besar gambar dokter laki-laki, yang tidak sesuai dengan kenyataan karena sekitar setengah dari semua dokter di negara-negara OECD adalah perempuan.

Implementasi AI medis yang aman

Solusi untuk mencegah bias dan diskriminasi bukanlah hal yang sepele. Mengaktifkan kesetaraan kesehatan dan mendorong inklusivitas dalam studi klinis kemungkinan besar terjadi solusi primer untuk memerangi bias dalam AI medis.

Yang menggembirakan, Badan Pengawas Obat dan Makanan AS baru-baru ini mengusulkan menjadikan keberagaman itu wajib dalam uji klinis. Proposal ini merupakan langkah menuju studi klinis yang kurang bias dan berbasis komunitas.

Hambatan lain untuk kemajuan adalah keterbatasan dana penelitian. Algoritme AI biasanya membutuhkan data dalam jumlah besar, yang bisa jadi mahal. Sangat penting untuk menetapkan mekanisme pendanaan yang ditingkatkan yang menyediakan sumber daya yang diperlukan peneliti untuk mengumpulkan data yang relevan secara klinis yang sesuai untuk aplikasi AI.

Kami juga berpendapat bahwa kami harus selalu mengetahui cara kerja algoritme AI dan memahami cara mereka mencapai kesimpulan dan rekomendasi. Konsep ini sering disebut sebagai "explainability" dalam AI. Ini berkaitan dengan gagasan bahwa manusia dan mesin harus bekerja sama untuk hasil yang optimal.

Kami lebih suka melihat penerapan prediksi dalam model sebagai kecerdasan "diperbesar" daripada "buatan" - algoritme harus menjadi bagian dari proses dan profesi medis harus tetap mengontrol pengambilan keputusan.

Selain mendorong penggunaan algoritme yang dapat dijelaskan, kami mendukung sains yang transparan dan terbuka. Ilmuwan harus mempublikasikan detail model AI dan metodologinya untuk meningkatkan transparansi dan reproduktifitas.

Apa yang kita butuhkan di Aotearoa Selandia Baru untuk memastikan penerapan AI yang aman dalam perawatan medis? Kekhawatiran etika AI terutama dipimpin oleh para ahli di lapangan. Namun, peraturan AI yang ditargetkan, seperti yang berbasis di UE Undang-Undang Kecerdasan Buatan telah diusulkan, menangani pertimbangan etis ini.

Undang-undang AI Eropa disambut baik dan akan melindungi orang yang bekerja dalam "AI yang aman". Pemerintah Inggris baru-baru ini merilis mereka pendekatan proaktif terhadap regulasi AI, berfungsi sebagai cetak biru untuk tanggapan pemerintah lainnya terhadap keamanan AI.

Di Aotearoa, kami berpendapat untuk mengadopsi sikap proaktif daripada reaktif terhadap keamanan AI. Ini akan membentuk kerangka kerja etis untuk menggunakan AI dalam perawatan klinis dan bidang lainnya, menghasilkan AI yang dapat ditafsirkan, aman, dan tidak bias. Akibatnya, keyakinan kami akan tumbuh bahwa teknologi yang kuat ini bermanfaat bagi masyarakat sekaligus melindunginya dari bahaya.

Tentang Penulis

Mangor Pedersen, Associate Professor Psikologi dan Ilmu Saraf, Universitas Teknologi Auckland

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Buku terkait:

Tubuh Menjaga Skor: Otak Pikiran dan Tubuh dalam Penyembuhan Trauma

oleh Bessel van der Kolk

Buku ini mengeksplorasi hubungan antara trauma dan kesehatan fisik dan mental, menawarkan wawasan dan strategi untuk penyembuhan dan pemulihan.

Klik untuk info lebih lanjut atau untuk memesan

Napas: Ilmu Baru Seni yang Hilang

oleh James Nestor

Buku ini mengeksplorasi ilmu dan praktik pernapasan, menawarkan wawasan dan teknik untuk meningkatkan kesehatan fisik dan mental.

Klik untuk info lebih lanjut atau untuk memesan

Paradoks Tumbuhan: Bahaya Tersembunyi dalam Makanan "Sehat" yang Menyebabkan Penyakit dan Kenaikan Berat Badan

oleh Steven R. Gundry

Buku ini mengeksplorasi hubungan antara diet, kesehatan, dan penyakit, menawarkan wawasan dan strategi untuk meningkatkan kesehatan dan kebugaran secara keseluruhan.

Klik untuk info lebih lanjut atau untuk memesan

Kode Imunitas: Paradigma Baru untuk Kesehatan Sejati dan Anti Penuaan Radikal

oleh Joel Greene

Buku ini menawarkan perspektif baru tentang kesehatan dan kekebalan, berdasarkan prinsip-prinsip epigenetik dan menawarkan wawasan dan strategi untuk mengoptimalkan kesehatan dan penuaan.

Klik untuk info lebih lanjut atau untuk memesan

Panduan Puasa Lengkap: Sembuhkan Tubuh Anda Melalui Puasa Intermiten, Hari Alternatif, dan Perpanjangan

oleh Dr. Jason Fung dan Jimmy Moore

Buku ini mengeksplorasi ilmu dan praktik puasa yang menawarkan wawasan dan strategi untuk meningkatkan kesehatan dan kebugaran secara keseluruhan.

Klik untuk info lebih lanjut atau untuk memesan