Studi: Dokter Kehilangan 20% Akurasi Deteksi Penyakit Tanpa AI
Jakarta, FORTUNE - Dokter yang terbiasa menggunakan kecerdasan buatan (AI) dalam prosedur medis terbukti 20 persen lebih rendah kemampuannya mendeteksi kelainan ketika kembali bekerja tanpa bantuan teknologi tersebut. Temuan ini menimbulkan kekhawatiran akan adanya ketergantungan berlebihan pada AI.
Melansir Fortune.com, penelitian yang diterbitkan bulan ini di jurnal Lancet Gastroenterology & Hepatology mengungkap bahwa endoskopis yang diperkenalkan pada alat bantu AI saat melakukan kolonoskopi mengalami penurunan tingkat deteksi kelainan setelah alat tersebut tidak lagi digunakan.
Dr. Marcin Romańczyk, peneliti utama studi ini, mengaku terkejut dengan hasil tersebut dan menduga penurunan itu terjadi akibat terlalu bergantung pada AI. Di sektor-sektor kritis seperti penerbangan, sudah ada bukti sebelumnya bahwa profesional kerap terlalu mengandalkan otomatisasi hingga mengorbankan aspek keselamatan.
AI memang dianggap sebagai cara menjanjikan untuk meningkatkan produktivitas, tetapi jika terlalu diandalkan, teknologi ini bisa melemahkan keterampilan inti manusia. Riset terbaru bahkan menunjukkan bahwa AI dapat membuat sebagian dokter menjadi lebih buruk dalam mendeteksi kelainan selama pemeriksaan rutin, sehingga menimbulkan kekhawatiran terkait ketergantungan berlebih pada teknologi.
Dalam studi terhadap 1.443 pasien kolonoskopi, tingkat deteksi polip oleh endoskopis yang menggunakan AI tercatat 28,4 persen. Namun ketika akses terhadap alat tersebut dihentikan, angka deteksi turun menjadi 22,4 persen—penurunan 20 persen.
Bagi Romańczyk, seorang gastroenterolog di H-T. Medical Center, Tychy, Polandia, hasil ini mengejutkan. Menurutnya, temuan tersebut tidak hanya menunjukkan adanya potensi “kemalasan” akibat ketergantungan pada AI, tetapi juga mengubah cara dokter berhubungan dengan tradisi pelatihan kedokteran yang sebelumnya berbasis analog.
“Kami belajar kedokteran dari buku dan mentor. Kami mengamati mereka, mereka memberi tahu kami apa yang harus dilakukan,” kata Romańczyk. “Dan sekarang ada objek buatan yang memberi saran apa yang harus dilakukan, ke mana harus melihat, dan kami sebenarnya tidak tahu bagaimana bersikap dalam kondisi itu.”
Sistem AI dalam penelitian ini membantu dokter mengidentifikasi polip dengan menandai area abnormal menggunakan kotak hijau. Romańczyk menyebut fenomena ini sebagai “efek Google Maps”: dokter menjadi terbiasa mencari kotak hijau, sehingga ketika kotak itu tidak ada, mereka kehilangan petunjuk. Ia membandingkan hal ini dengan pergeseran dari peta kertas ke GPS—orang kini bergantung pada aplikasi navigasi untuk menunjukkan rute tercepat, padahal dulu harus mencari sendiri.
Risiko otomatisasi pada keterampilan kritis
Konsekuensi nyata dari otomatisasi yang melemahkan keterampilan manusia sebenarnya sudah pernah terjadi. Pada 2009, pesawat Air France Penerbangan 447 jatuh ke Samudra Atlantik, menewaskan 228 penumpang dan kru. Investigasi menemukan bahwa autopilot terputus, sensor kecepatan udara terganggu es karena, dan “flight director” memberikan informasi keliru. Awak pesawat, yang tidak cukup terlatih untuk mengendalikan manual dalam situasi itu, justru mengikuti arahan salah dari sistem otomatis.
“Kita melihat kondisi di mana pilot tidak bisa memahami apa yang dilakukan pesawat kecuali komputer yang menafsirkannya,” ujar William Voss, Presiden Flight Safety Foundation, saat investigasi berlangsung. “Ini bukan masalah Airbus atau Air France saja. Ini tantangan pelatihan baru yang harus dihadapi seluruh industri.”
Menurut Lynn Wu, profesor di Wharton School, University of Pennsylvania, insiden-insiden seperti ini menjadi momen refleksi, terutama di sektor kritis yang menyangkut keselamatan manusia. Ia menilai, teknologi memang seharusnya dimanfaatkan, tetapi tanggung jawab memastikan adaptasi yang tepat ada pada institusi.
“Apa yang penting adalah kita belajar dari sejarah penerbangan dan generasi otomatisasi sebelumnya, bahwa AI memang bisa meningkatkan kinerja,” kata Wu kepada Fortune. “Tapi pada saat yang sama, kita harus menjaga keterampilan kritis, agar ketika AI gagal, kita tahu bagaimana mengambil alih.”
Romańczyk pun tidak menolak keberadaan AI dalam dunia medis.
“AI akan menjadi, atau sudah menjadi, bagian dari hidup kita, suka atau tidak,” ujarnya. “Kami tidak bermaksud mengatakan AI itu buruk dan harus dihentikan. Justru, kami ingin meneliti apa yang terjadi di dalam otak kita, bagaimana kita terpengaruh olehnya, dan bagaimana cara menggunakannya secara efektif.”
Wu menambahkan, jika profesional ingin terus memanfaatkan otomatisasi untuk meningkatkan pekerjaan, mereka harus tetap menjaga keterampilan inti. AI dilatih menggunakan data manusia, sehingga bila kualitas keterampilan manusia menurun, kualitas AI pun ikut terdampak.
“Begitu kita menjadi buruk dalam suatu hal, AI juga akan menjadi buruk,” kata Wu. “Kita harus lebih baik agar AI juga bisa lebih baik.”
