Sektor kesehatan kini tengah dilanda demam kecerdasan buatan (AI). Namun, di balik janji efisiensi yang ditawarkan, muncul fenomena “bawah tanah” yang mengkhawatirkan yaitu Shadow AI.
Istilah ‘Shadow AI’ ini merujuk pada penggunaan aplikasi AI secara mandiri oleh karyawan tanpa restu resmi dari institusi atau departemen IT.
Laporan terbaru dari Wolters Kluwer Health mengungkapkan bahwa praktik Shadow AI telah menjamur di koridor-koridor rumah sakit dan membawa risiko besar yang sering kali tidak disadari.
Rahasia di Balik Layar Medis
Berdasarkan survei terhadap lebih dari 500 responden di berbagai sistem kesehatan, angka yang ditemukan cukup mengejutkan:
Sebanyak 40 persen lebih tenaga medis dan administrator mengakui rekan kerja mereka menggunakan alat AI tak resmi.
Hampir 20 persen responden mengaku nekat menggunakan AI ilegal untuk membantu tugas harian mereka.
Masalahnya, alat-alat ini digunakan tanpa kurasi risiko yang ketat. Dr. Peter Bonis (Chief Medical Officer di Wolters Kluwer) menyoroti tantangan fatal dari tren ini.
“Bagaimana dengan keamanannya?. Bagaimana efikasinya?. Apakah penggunanya sadar akan risiko yang mengintai?,” ungkapnya mengutip CIO Dive.
Mengapa Mereka Tetap Bandel?
Motif utamanya klasik yaitu Efisiensi. Tenaga medis yang kelelahan akibat tumpukan data dan beban administratif mencari jalan pintas.
Berikut beberapa alasannya mereka tetap menggunakan ‘shadow AI’:
- Workflow Lebih Cepat: Lebih dari 50 persen administrator dan 45 persen dokter menggunakan AI tak resmi agar pekerjaan cepat tuntas.
- Fungsionalitas Unggul: 40 persen merasa alat yang mereka temukan sendiri jauh lebih canggih dan intuitif dibanding fasilitas resmi kantor.
- Eksperimen & Penasaran: Sekitar 25 persen dokter menggunakan AI hanya karena ingin bereksperimen dengan teknologi terbaru.
Taruhan Nyawa dan Privasi Data
Dalam industri kreatif, penyalahgunaan AI mungkin hanya berujung pada masalah hak cipta. Namun di rumah sakit, taruhannya adalah nyawa manusia.
Risiko Halusinasi dan Salah Diagnosis: AI memiliki potensi “halusinasi” dan memberikan informasi salah yang terdengar sangat meyakinkan. Jika rekomendasi medis yang keliru ini tidak disaring, keselamatan pasien menjadi taruhannya.
Lubang Keamanan Siber: Sektor kesehatan adalah target utama peretas. Penggunaan Shadow AI menciptakan “pintu belakang” (backdoor) yang tak terlihat oleh tim IT, memicu risiko kebocoran data pasien yang sangat sensitif.
Gap Kebijakan yang Menganga
Menariknya, survei tersebut mengungkap adanya gap komunikasi yang lebar. Banyak tenaga medis yang tidak tahu apakah institusi mereka memiliki aturan soal AI atau tidak.
Meski alat seperti AI Scribe mulai dilegalkan di beberapa tempat, aturan turunannya masih dianggap abu-abu oleh staf di lapangan.
Strategi Mitigasi: Solusi untuk Industri Kesehatan
Untuk mengatasi fenomena ini, organisasi kesehatan perlu mengambil langkah konkret yang melampaui sekadar larangan:
1. Edukasi & Kesadaran (Aspek Manusia)
Literasi Data: Staf harus paham bahwa memasukkan data pasien ke AI publik (seperti ChatGPT versi gratis) sama dengan membocorkan rahasia medis ke server pihak ketiga.
Forum Transparan: Buat wadah bagi staf untuk mengusulkan alat AI yang mereka butuhkan secara terbuka tanpa takut sanksi.
2. Tata Kelola & Regulasi
Daftar Putih (Greenlit): Miliki kebijakan tertulis yang jelas mengenai alat AI mana yang boleh digunakan, dilarang (blacklisted), atau masih ditinjau.
Persetujuan Pasien: Tetapkan aturan apakah pasien perlu mengetahui penggunaan AI dalam proses diagnosa mereka.
3. Infrastruktur IT yang Kuat
Solusi Enterprise: Daripada membiarkan staf mencari alat sendiri, sediakan versi perusahaan yang memiliki enkripsi end-to-end dan jaminan privasi.
Data Sandboxing: Pastikan data medis tetap berada dalam ekosistem internal dan tidak digunakan untuk melatih model AI publik.
4. Monitoring & Verifikasi
Human-in-the-loop: Terapkan aturan ketat bahwa semua output AI wajib diverifikasi ulang oleh tenaga medis profesional sebelum diterapkan.
Butuh Jembatan, Bukan Sekadar Larangan
AI adalah masa depan dunia medis yang tak terelakkan. Namun, penggunaan alat AI secara “sembunyi-sembunyi” adalah bumerang yang siap meledak kapan saja.
Pihak manajemen rumah sakit dituntut lebih gesit dalam menyediakan ekosistem AI yang aman dan terverifikasi, memastikan bahwa efisiensi tidak pernah dibayar dengan harga keselamatan pasien.
