Studi Menemukan Dokter yang Mengandalkan AI Menjadi 20% Lebih Buruk dalam Mendeteksi Risiko Kesehatan

Alat bantu AI telah menjadi sumber daya harian yang membantu meningkatkan produktivitas dan kecepatan di berbagai industri. Meskipun sistem cerdas ini memberikan manfaat yang signifikan, para ahli medis khawatir bahwa ketergantungan berlebihan pada kecerdasan buatan justru dapat menimbulkan lebih banyak kerugian daripada manfaat.

Ketergantungan pada AI Dapat Mengurangi Tingkat Deteksi Dokter dalam Kolonoskopi

Sebuah studi terbaru yang dilakukan pada 1.443 pasien mengungkapkan bahwa endoskopis yang menggunakan agen AI selama kolonoskopi mencapai tingkat keberhasilan yang lebih rendah dalam mendeteksi kelainan ketika alat ini tidak digunakan. 

Hasil penelitian yang dipublikasikan bulan ini di jurnal Lancet Gastroenterology & Hepatology menunjukkan bahwa para dokter ini mencapai tingkat keberhasilan 28,4% dalam mendeteksi polip potensial menggunakan teknologi tersebut. Tanpa alat ini, angka tersebut turun menjadi 22,4%, yang berarti terjadi penurunan tingkat deteksi sebesar 20%.

Dr. Marcin Romańczyk, seorang gastroenterolog di H-T. Medical Center di Tychy, Polandia, sekaligus penulis studi ini, menyatakan terkejut atas hasil tersebut. Ia menunjuk ketergantungan berlebihan pada kecerdasan buatan sebagai salah satu faktor utama yang menyebabkan penurunan tingkat deteksi.

Kami belajar kedokteran dari buku dan dari mentor kami. Kami mengamati mereka. Mereka memberi tahu kami apa yang harus dilakukan. Dan sekarang ada objek buatan yang menyarankan apa yang harus kami lakukan, ke mana kami harus melihat, dan sebenarnya kami tidak tahu bagaimana harus bersikap dalam kasus tertentu.

Dr. Marcin Romańczyk

Hasil ini tidak hanya menunjukkan potensi dampak negatif dari ketergantungan berlebihan pada kecerdasan buatan, tetapi juga menyoroti evolusi praktik medis dari tradisi analog ke era digital.

Kekhawatiran atas Kecerdasan Buatan di Tempat Kerja: Peningkatan Produktivitas dengan Biaya Kognitif

Selain peningkatan penggunaan di ruang operasi dan kantor medis, otomasi AI telah menjadi hal yang lazim di tempat kerja, dengan banyak orang kini mengandalkan alat ini untuk meningkatkan produktivitas. Goldman Sachs bahkan memprediksi pada tahun 2023 bahwa AI dapat meningkatkan produktivitas tempat kerja hingga 25%.

Namun, adopsi sistem AI ini juga membawa risiko kerugian di masa depan. Faktanya, penelitian dari perusahaan-perusahaan terkemuka telah menyoroti risiko yang terkait dengan kepercayaan berlebihan pada alat ini. 

Sebuah publikasi oleh Microsoft dan Carnegie Mellon University mencatat bahwa AI membantu meningkatkan efisiensi kerja di antara sekelompok pekerja pengetahuan yang disurvei. Namun, AI juga melemahkan kemampuan penilaian dan analisis mereka yang “mengalami atrofi”.

Ketergantungan Berlebihan pada Kecerdasan Buatan di Dunia Penerbangan: Pelajaran dari Air France Flight 447

Bahkan di sektor penerbangan, di mana keselamatan adalah yang utama, bukti sebelumnya menunjukkan bahwa ketergantungan berlebihan pada otomasi dapat mengorbankan keselamatan. Pada tahun 2009, Air France Flight 447 yang terbang dari Rio de Janeiro ke Paris jatuh ke Samudra Atlantik, mengakibatkan lebih dari 228 nyawa hilang.

Penyelidikan kemudian mengungkapkan bahwa sistem otomasi pesawat mengalami kerusakan. Hal ini menyebabkan “flight director” otomatis pesawat mengirimkan informasi yang tidak akurat. Karena kru penerbangan tidak cukup terlatih dalam menerbangkan pesawat secara manual, mereka mengandalkan fitur otomatis pesawat daripada melakukan penyesuaian yang diperlukan.

Menyeimbangkan Adopsi AI dengan Keahlian Manusia di Industri Berisiko Tinggi

Lynn Wu, associate professor bidang operasi, informasi, dan keputusan di Wharton School, University of Pennsylvania, mencatat bahwa insiden-insiden ini menjadi pengingat nyata bagi adopsi AI di sektor-sektor di mana keselamatan manusia sangat penting. Wu menjelaskan bahwa meskipun mengadopsi teknologi ini, industri harus memastikan pekerja mengadopsi alat ini dengan tepat.

Yang penting adalah kita belajar dari sejarah penerbangan dan generasi otomasi sebelumnya, bahwa AI benar-benar dapat meningkatkan kinerja. Namun pada saat yang sama, kita harus mempertahankan keterampilan kritis tersebut, sehingga ketika AI tidak berfungsi, kita tahu bagaimana mengambil alih.

Lynn Wu

Ia menambahkan bahwa jika orang kehilangan keterampilan mereka sendiri, kecerdasan buatan juga akan berkinerja lebih buruk. Agar AI dapat berkembang, individu juga harus terus meningkatkan diri mereka sendiri.

Romańczyk juga menerima penggunaan AI dalam dunia medis, dengan mencatat bahwa “AI akan menjadi, atau sudah menjadi, bagian dari hidup kita, suka atau tidak.” Namun, ia menekankan perlunya memahami bagaimana kecerdasan buatan memengaruhi cara berpikir manusia dan mendorong para profesional untuk menentukan cara paling efektif dalam memanfaatkannya.