Kebijakan AI Anti-Woke Trump Mengancam Nyawa Pasien

(SeaPRwire) –   Pada 23 Juli, Presiden Donald Trump menandatangani undang-undang komprehensif berjudul “Preventing Woke AI in the Federal Government Act” (Undang-Undang Pencegahan AI “Woke” dalam Pemerintahan Federal). Ini adalah serangan lain dalam perang budaya politik yang sedang berlangsung, dan upaya sengaja untuk mengesampingkan istilah-istilah seperti keberagaman, kesetaraan, inklusi (DEI) serta memutarbalikkan pekerjaan mereka yang menangani rasisme sistemik dalam sistem kecerdasan buatan federal.

Namun bagi kami di bidang kedokteran, terutama mereka yang memperjuangkan kesetaraan kesehatan, ini bukan sekadar pencitraan politik. Perintah ini mengancam nyawa. Ini membahayakan kerja bertahun-tahun untuk mengidentifikasi dan mengoreksi bias struktural yang telah lama merugikan komunitas terpinggirkan, khususnya warga Amerika Kulit Hitam.

AI adalah . Ini sudah digunakan untuk menyeleksi pasien UGD, memprioritaskan perawatan lanjutan, dan memprediksi risiko penyakit. Namun algoritma-algoritma ini tidak berasal dari dasar yang netral. Mereka dilatih dengan data dunia nyata. Data yang sama sekali tidak bias.

Melindungi akurasi medis

Salah satu contoh paling mencolok muncul dalam sebuah penelitian pada tahun 2019 yang diterbitkan di Science, ditulis oleh para peneliti dari UC Berkeley dan the University of Chicago. Mereka memeriksa algoritma perawatan kesehatan komersial yang banyak digunakan, yang dirancang untuk menandai pasien untuk manajemen perawatan berisiko tinggi. Di permukaan, algoritma itu tampak objektif dan berbasis data. Namun para peneliti menemukan bahwa algoritma tersebut sama sekali tidak menilai kebutuhan klinis. Sebaliknya, ia secara diam-diam menggunakan proksi: jumlah uang yang sebelumnya dihabiskan untuk perawatan pasien.

Karena pasien Kulit Hitam biasanya menerima lebih sedikit perawatan, bahkan saat menunjukkan gejala yang sama, proksi pengeluaran tersebut menyebabkan algoritma secara drastis meremehkan kebutuhan mereka. Sementara hampir 46.5% pasien Kulit Hitam seharusnya ditandai untuk perawatan tambahan, algoritma hanya mengidentifikasi 17.7%. Itu bukan sekadar catatan kaki statistik. Itu adalah sistem yang telah diajarkan untuk memalingkan muka.
Ini bukan kasus terisolasi. Pertimbangkan dua algoritma lain yang disesuaikan ras yang masih digunakan hingga saat ini:

Fungsi ginjal, yang dihitung menggunakan persamaan Glomerular Filtration Rate (GFR), telah lama menyertakan “faktor koreksi” untuk pasien Kulit Hitam, berdasarkan asumsi tidak ilmiah tentang massa otot. Para peneliti telah berulang kali menemukan bahwa penyesuaian ini meningkatkan skor ginjal, yang berarti banyak pasien Kulit Hitam dianggap tidak memenuhi syarat untuk transplantasi atau mengalami penundaan dalam menerima perawatan khusus.

Dan Pulmonary Function Tests (PFTs), yang digunakan untuk mendiagnosis asma dan penyakit paru-paru, sering menerapkan koreksi berbasis ras yang mengasumsikan orang Kulit Hitam secara alami memiliki kapasitas paru-paru yang lebih rendah, menurunkan ambang batas deteksi dan berkontribusi pada kurangnya diagnosis.

Ini bukan hanya artefak sejarah. Ini adalah contoh bagaimana rasisme dapat tertanam dalam kode. Secara diam-diam, meresap, dan mematikan.

Dalam beberapa tahun terakhir, klinisi dan peneliti seperti saya telah menentang hal ini. Banyak rumah sakit menghapus koreksi berbasis ras dari persamaan medis. Alat AI yang berpusat pada kesetaraan sedang dikembangkan untuk mendeteksi dan mengurangi kesenjangan, bukan mengabaikannya. Pekerjaan ini bukan tentang menjadi “woke.” Ini tentang menjadi akurat, meningkatkan hasil, dan menyelamatkan nyawa.

Bahaya perang budaya anti-“woke” Trump

Perintah eksekutif Trump mengancam akan menghentikan pekerjaan penting yang telah dilakukan untuk membuat algoritma medis lebih akurat.

Dengan melarang lembaga federal untuk mempertimbangkan rasisme sistemik atau kesetaraan dalam pengembangan AI, perintah tersebut secara efektif melarang upaya-upaya yang diperlukan untuk memperbaiki masalah ini. Ini membungkam para ilmuwan data yang mencoba membangun dan mengembangkan sistem yang lebih adil. Ini memberi tahu kita bahwa menyebutkan ketidaksetaraan lebih buruk daripada melestarikannya.

Para pendukung perintah tersebut mengklaim bahwa itu mempromosikan “netralitas.” Namun netralitas, dalam sistem yang dibangun di atas ketidakadilan, bukanlah keadilan. Ini adalah penguatan bias yang pura-pura diabaikan.

Bahaya ini bukan hipotetis. Pasien Kulit Hitam sudah lebih kecil kemungkinannya untuk ditawari , lebih mungkin untuk , dan lebih mungkin untuk dari kondisi yang dapat dicegah. AI yang dirancang secara etis dapat membantu mengungkap kesenjangan ini lebih awal. Namun hanya jika kita diizinkan untuk membangunnya dengan cara itu.

Dan bias dalam AI tidak hanya merugikan komunitas Kulit Hitam. telah sistem pengenalan wajah salah mengidentifikasi wanita dan orang kulit berwarna pada tingkat yang jauh lebih tinggi daripada pria kulit putih. Dalam satu kasus, algoritma yang digunakan dalam perekrutan secara sistematis menurunkan peringkat riwayat hidup wanita. Dalam kasus lain, alat perawatan kesehatan meremehkan risiko penyakit jantung pada wanita karena data historis kurang mendiagnosis mereka sejak awal. Inilah bagaimana ketidaksetaraan mereplikasi diri. Input yang bias menjadi keputusan otomatis tanpa pengawasan atau konteks.

Menghapus DEI dari AI bukan tentang netralitas. Ini tentang memori selektif. Ini adalah upaya untuk menghilangkan bahasa yang kita butuhkan untuk mendiagnosis masalah, apalagi memperbaikinya. Jika kita memaksa AI untuk mengabaikan sejarah, AI akan menuliskannya kembali. Bukan hanya fakta, tetapi juga orang-orang yang diwakili oleh fakta-fakta tersebut.

Perintah eksekutif Trump mempolitisasi dan menjadikan AI sebagai senjata. Dan bagi jutaan warga Amerika yang sudah tidak terlihat oleh sistem hukum, medis, dan teknologi kita, biayanya akan diukur dalam nyawa.