AI Bukan Ancaman yang Akan Datang bagi Dokter. AI Sudah Ada di Ruangan.

(SeaPRwire) –   Saat rumah sakit beralih ke AI, pasien mungkin tidak lagi tahu siapa—atau apa—yang membuat keputusan medis mereka. Sebagai dokter UGD, kami melihat bagaimana panduan AI mengubah makna masuk ke ruang gawat darurat.

Ini bukan cerita kebijakan. Ini adalah cerita budaya: tentang arti memiliki kepercayaan pada dokter Anda ketika “dokter” itu mungkin adalah algoritma. Menurut laporan terbaru, aplikasi AI di departemen gawat darurat sudah digunakan untuk triase, prediksi risiko, dan model penempatan staf, rencana yang membantu rumah sakit memastikan mereka memiliki jumlah dan campuran dokter, perawat, dan staf lain yang tepat bekerja pada waktu yang tepat untuk merawat pasien. Pasien mungkin tidak tahu apakah orang yang merawat mereka adalah dokter atau hibrida yang dibantu AI. Itu bisa terasa mulus, atau mengganggu, tergantung pada risikonya. Kami sedang bergulat dengan transformasi UGD yang tenang, di mana tekanan biaya, kekurangan staf, dan kopilot AI sedang menulis ulang apa artinya menemui dokter, dan apa artinya memercayainya.

Pergeseran dari dokter ke AI bukan hanya solusi penempatan staf, tetapi perubahan seismik dalam cara keputusan medis dibuat. Masing-masing memiliki konsekuensi. AI dapat memproses tumpukan data dalam hitungan detik, tetapi tidak dapat menatap mata pasien dan mengenali ketakutan, menghargai momen-momen sunyi penderitaan manusia, atau menangkap petunjuk yang tidak terucapkan yang datang dari memegang tangan seseorang yang kesakitan. Bagian dari 10.000+ jam pelatihan medis kami untuk menjadi dokter UGD adalah mengembangkan naluri bahwa ada sesuatu yang salah, bahkan ketika tanda vital dan hasil lab pasien terlihat baik-baik saja. Ini adalah menangkap petunjuk halus—sedikit kebingungan, sedikit cadel dalam bicara pasien, kepanikan tenang di mata mereka—yang mungkin tidak disebutkan pasien, juga tidak dapat dipersepsikan oleh algoritma. Elemen manusia, esensi kepercayaan dan kasih sayang, justru di situlah AI tersandung.

Perusahaan teknologi berlomba untuk mengintegrasikan AI ke dalam ruang klinis dengan menciptakan sistem triase digital, kopilot diagnostik, dan alat pendukung keputusan yang dirancang untuk menambah atau bahkan menggantikan pengawasan dokter. Dan rumah sakit bergerak cepat untuk mengadopsinya, tertarik oleh janji biaya yang lebih rendah dan akurasi diagnostik yang lebih tajam. Dalam studi baru-baru ini, AI bekerja setara dengan dokter non-ahli, bukti seberapa cepat algoritma mengejar klinisi manusia di ruang pemeriksaan. OpenAI, Google, dan Microsoft secara eksplisit menguji aplikasi layanan kesehatan berbasis AI. Salah satu perusahaan tersebut, Open Evidence AI, sedang membangun alat bertenaga AI untuk memberikan jawaban berbasis bukti yang cepat kepada klinisi untuk pertanyaan medis, dan sudah bernilai $3,5 miliar.

Tentu saja, ada tempat di mana AI dapat bersinar. Ini dapat memunculkan pola yang tidak terlihat bahkan oleh klinisi paling berpengalaman sekalipun, menghubungkan hasil lab dari beberapa bulan yang lalu dengan daftar obat dan sekelompok gejala untuk menandai risiko infeksi parah sebelum orang lain melihatnya. Ini dapat menarik interaksi obat yang tidak jelas, mendukung pengambilan keputusan, dan mempercepat dokumentasi, meninggalkan lebih banyak waktu bagi dokter untuk pasien dan dengan lebih sedikit kelelahan. Digunakan dengan benar, AI lebih merupakan pengganti intuisi daripada pengganda kekuatan untuk itu.

Mungkin lebih dari segalanya, yang baru adalah bahwa baik pasien maupun dokter kini menggunakan AI, tetapi tidak dengan cara yang sama.

Beberapa malam yang lalu, seorang wanita muda datang ke UGD dengan nyeri dada. Semua tesnya normal, tetapi dia masih tampak gelisah. Ketika saya bertanya apakah dia khawatir tentang sesuatu, dia mengakui bahwa dia telah menjelajahi ChatGPT setelah menyadari beberapa detak jantung yang terlewat. Chatbot itu memberitahunya bahwa dia mungkin menderita: kondisi jantung langka dan mematikan. (Dia tidak menderita). Kepanikan yang mengikuti kemungkinan menyebabkan gejala yang membawanya masuk.

Pasien lain, seorang pria muda, datang dengan yakin bahwa dia menderita radang usus buntu karena ChatGPT memberitahunya demikian. Kali ini, dia benar. Gejalanya sesuai dengan buku teks, dan mahasiswa kedokteran yang menanganinya secara mandiri menyimpulkan diagnosis yang sama. AI membantu pasien menemukan diagnosisnya lebih cepat dan mencari perawatan. Namun dia masih membutuhkan tangan terampil seorang ahli bedah untuk mengangkat usus buntu-nya.

Itulah paradoks saat ini: teknologi yang sama yang memicu kebingungan dan ketakutan juga dapat mempertajam wawasan dan mempercepat perawatan. Ini tidak hanya mengubah cara kita mendiagnosis, tetapi juga mengubah cara pasien tiba dan siapa yang merawat mereka. Biaya, staf, dan teknologi telah mengaburkan batas antara perawatan manusia dan mesin, mengantar jenis kedokteran baru: pasien dirawat oleh klinisi yang rekan paling kuatnya mungkin adalah algoritma.

Masalahnya bukan hanya AI bisa salah diagnosis, tetapi penggunaan AI jangka panjang juga bisa membahayakan wawasan klinisi. Dalam satu penelitian, dokter kurang cenderung mendeteksi bercak yang mungkin bersifat kanker pada kolonoskopi setelah mereka terbiasa menggunakan alat AI. Penulis berhipotesis bahwa semakin mereka bergantung pada algoritma, semakin sedikit penilaian manusia yang mereka gunakan.

Pergeseran ke pengintegrasian AI atau klinisi non-dokter ke UGD ini tidak serta-merta buruk, tetapi seringkali tidak terlihat oleh pasien. Dan itulah masalahnya.

Pasien berhak tahu kapan perawatan mereka dipandu oleh AI, siapa yang pada akhirnya bertanggung jawab atas keputusan yang dibuat, dan perlindungan apa yang ada ketika “dokter di ruangan” mungkin adalah algoritma.

Transparansi tidak akan menghentikan kemajuan teknologi, tetapi mungkin membantu melestarikan sesuatu yang tidak boleh hilang dari dunia medis: kepercayaan.