Pada Konferensi & Pameran Kesehatan Global HIMSS baru-baru ini di Orlando, saya menyampaikan ceramah yang berfokus pada perlindungan terhadap beberapa kelemahan kecerdasan buatan dalam perawatan kesehatan.
Tujuannya adalah untuk mendorong para profesional kesehatan untuk memikirkan secara mendalam realitas transformasi AI, sekaligus memberikan mereka contoh nyata tentang bagaimana melakukan transformasi AI dengan aman dan efektif. Tujuan saya adalah agar semua penonton bergabung dengan saya dalam mengatasi hype untuk fokus pada pemahaman yang matang tentang bagaimana membangun masa depan yang menarik ini.
Syukurlah, pesan saya diterima dengan baik. Para peserta mengapresiasi potensi yang muncul ketika kita melampaui gimmick dan rasa takut ketinggalan. Hal ini mewakili tingkat kepemimpinan yang lebih tinggi, di mana individu-individu yang bijaksana berkolaborasi di berbagai fungsi untuk menetapkan tujuan yang jelas dan dapat ditindaklanjuti guna meningkatkan hasil.
Minat terhadap pendekatan pasca-hype terhadap AI ini begitu besar sehingga saya merasa terdorong untuk menulis ringkasan singkat dari pembicaraan saya dan membagikannya secara luas kepada pembaca Healthcare IT News.
Saya akan membahas secara singkat bom waktu AI yang telah meledak, memberikan sepuluh tips untuk membantu Anda menghindari masalah ini, dan berbagi dua contoh organisasi tempat saya bekerja yang menerapkan AI dengan benar.
Apa yang Tidak Harus Dilakukan
Baik di dalam maupun di luar sektor layanan kesehatan, inisiatif AI yang diluncurkan secara tergesa-gesa sudah menunjukkan tanda-tanda kegagalan.
Misalnya, chatbot yang berhubungan dengan pelanggan Air Canada secara keliru menjanjikan potongan harga penerbangan kepada penumpang. Selanjutnya, perusahaan berusaha untuk mengklaim bahwa itu bukan kesalahan mereka, dengan alasan bahwa AI adalah badan hukum terpisah yang “bertanggung jawab atas tindakannya sendiri.” Tidak mengherankan, pengadilan Kanada tidak menerima pembelaan “bukan kami, melainkan AI”, dan kini maskapai penerbangan tersebut berkewajiban untuk menghormati diskon yang dijanjikan secara keliru.
Setahun terakhir ini, National Eating Disorders Association bermaksud mengganti staf saluran bantuan mereka yang sangat berpengalaman dengan Tessa, sebuah chatbot yang dirancang untuk membantu individu yang mencari nasihat tentang gangguan makan. Namun, hanya beberapa hari sebelum jadwal peluncuran Tessa, ditemukan bahwa bot tersebut mulai memberikan saran yang bermasalah, termasuk rekomendasi untuk membatasi asupan kalori, sering menimbang berat badan, dan menetapkan tujuan penurunan berat badan yang kaku. Meskipun Tessa tidak pernah beroperasi, kejadian ini menggarisbawahi konsekuensi buruk yang dapat ditimbulkan jika kita terburu-buru menggunakan solusi AI.
Sebuah makalah baru-baru ini yang diterbitkan di JAMA Open Network menyoroti beberapa contoh algoritma bias yang melanggengkan “disparitas ras dan etnis dalam kesehatan dan layanan kesehatan.” Para penulis merinci beberapa kasus algoritma yang bias dan berbahaya yang telah dikembangkan dan diterapkan, sehingga berdampak buruk pada “akses, atau kelayakan untuk, intervensi dan layanan, serta alokasi sumber daya.”
Dan ini sangat memprihatinkan karena banyak dari algoritma yang bias ini masih beroperasi.
Sederhananya, bom waktu AI telah meledak, dan hal ini akan terus terjadi kecuali ada tindakan proaktif yang diambil untuk memitigasi masalah ini.
Apa yang Harus Dilakukan
Untuk membantu para pemimpin dalam mengatasi risiko yang terkait dengan AI, saya telah mengembangkan sepuluh tips untuk melakukan transformasi AI dengan cara yang aman dan berkelanjutan. Kiat-kiat berikut dirancang untuk memastikan bahwa eksekutif layanan kesehatan mencapai laba atas investasi mereka yang terbaik:
-
Prioritaskan Transparansi dan Penjelasan. Pilih sistem AI yang menawarkan algoritme transparan dan hasil yang dapat dijelaskan.
-
Menerapkan Tata Kelola Data yang Kuat. Memastikan data berkualitas tinggi, beragam, dan diberi label akurat sangatlah penting.
-
Terlibat dengan Badan Etika dan Pengatur Sejak Dini. Memahami dan menyelaraskan pedoman etika dan persyaratan peraturan sejak dini dapat mencegah revisi yang mahal dan memastikan keselamatan pasien.
-
Menumbuhkan Kolaborasi Interdisipliner. Pendekatan interdisipliner memastikan bahwa alat AI yang dikembangkan bersifat praktis, etis, dan berpusat pada pasien.
-
Pastikan Skalabilitas dan Interoperabilitas. Alat AI harus dirancang untuk berintegrasi secara lancar dengan sistem TI layanan kesehatan yang ada dan dapat diperluas ke berbagai departemen atau bahkan institusi.
-
Berinvestasi dalam Pendidikan dan Pelatihan Berkelanjutan. Berinvestasi dalam pendidikan dan pelatihan berkelanjutan memastikan bahwa staf dapat menggunakan AI secara efektif, menafsirkan keluarannya, dan membuat keputusan yang tepat.
-
Kembangkan Pendekatan yang Berpusat pada Pasien. Mengadopsi praktik AI yang meningkatkan keterlibatan pasien, mempersonalisasi pemberian layanan kesehatan, dan tidak memperburuk kesenjangan kesehatan secara tidak sengaja.
-
Pantau Kinerja dan Dampak Secara Terus Menerus. Kembangkan mekanisme umpan balik pekerja dan pasien, yang memungkinkan penyempurnaan alat AI secara berkelanjutan untuk memenuhi kebutuhan pemangku kepentingan dengan lebih baik.
-
Menetapkan Kerangka Akuntabilitas yang Jelas. Tentukan garis akuntabilitas yang jelas untuk keputusan yang dibuat dengan bantuan AI.
-
Mempromosikan Budaya AI yang Etis. Mendorong diskusi mengenai etika AI, mendorong penggunaan AI yang bertanggung jawab, dan memastikan keputusan dibuat dengan mempertimbangkan kesejahteraan seluruh pemangku kepentingan.
Biarkan tips ini memandu Anda dalam perjalanan AI Anda. Gunakan hal tersebut untuk mengembangkan prinsip, kebijakan, prosedur, dan protokol agar AI dapat berjalan dengan baik dan dengan cekatan menavigasi situasi ketika segala sesuatunya tidak berjalan sesuai rencana. Menerapkan tips-tips ini secara proaktif di awal transformasi AI akan menghemat waktu, uang, dan, pada akhirnya, nyawa.
Apa yang dilakukan orang lain
Transformasi AI memerlukan beberapa komponen mendasar yang bekerja secara bersamaan. Seperti yang saya sebutkan dalam ceramah HIMSS saya: Seperti ritual Thanksgiving, inilah waktunya untuk beralih dari meja anak-anak AI – yang percakapannya secara obsesif berpusat pada ChatGPT – ke meja orang dewasa, tempat para pemimpin secara aktif mengambil langkah-langkah untuk meletakkan fondasi untuk transformasi AI yang matang.
Dua dari elemen penting yang saya fokuskan, dalam kemitraan dengan organisasi layanan kesehatan besar, adalah mengadopsi pendekatan holistik dalam penerapan dan berinvestasi dalam budaya yang kuat dan berbasis data.
Dalam satu sistem kesehatan, kami mengembangkan cetak biru untuk menerapkan model bahasa besar dengan aman. Cetak biru ini mencakup berbagai bidang dampak yang perlu dipertimbangkan, seperti implikasi ekonomi dan privasi LLM, dan mencakup pertanyaan-pertanyaan penting untuk ditanyakan di setiap domain tersebut.
Tujuannya adalah untuk memberikan pertanyaan spesifik dan saling berhubungan kepada semua orang di C-suite tentang risiko dan manfaat yang terkait dengan penerapan LLM. Pendekatan ini membantu menyoroti trade-off – seperti kecepatan vs. keamanan atau kualitas vs. biaya – dan memberikan bahasa yang sama kepada kelompok pemimpin yang beragam ini untuk mengidentifikasi peluang dan mendiskusikan risiko.
Di sistem kesehatan lain, kami mengembangkan sepuluh indikator kinerja utama untuk memastikan para pemimpin, tim, dan proses berkontribusi terhadap budaya pelayanan berbasis data dan siap pakai AI. Kami juga telah membuat survei berdasarkan KPI ini untuk mendapatkan pemahaman dasar tentang keunggulan budaya data dan ruang untuk perbaikan.
Dengan berfokus pada pemahaman kebutuhan data para dokter dan menyediakan data berkualitas tinggi dan relevan ketika mereka membutuhkannya, organisasi ini telah menyadari lonjakan yang cepat dan mengesankan dalam “angka-angka yang baik,” seperti keterlibatan karyawan dan kepuasan pasien.
Hal ini menjadi contoh utama bagaimana transformasi AI dimulai jauh sebelum munculnya teknologi dan sensasi baru. Dengan berfokus pada hal-hal mendasar seperti data, para pemimpin dapat mencapai kemenangan cepat sambil mempersiapkan organisasi mereka menuju kesuksesan jangka panjang.
Apa yang terjadi selanjutnya
Masa depan layanan kesehatan menuntut pola pikir “yang utama adalah kepemimpinan, yang terakhir adalah teknologi”. Para eksekutif harus memprioritaskan kebutuhan orang-orangnya, serta tantangan dan peluang yang ada dalam proses mereka.
Pendekatan ini melibatkan penggunaan ilmu pengetahuan untuk memahami organisasi mereka dengan cara yang sistematis dan dapat diprediksi serta mengandalkan data berkualitas tinggi untuk menghasilkan wawasan yang akurat dan andal untuk memandu perubahan.
Mengadopsi pola pikir kepemimpinan yang mengutamakan teknologi juga berarti bahwa para pengambil keputusan menggabungkan ilmu pengetahuan dan data dengan pengalaman yang diperoleh dengan susah payah untuk merancang solusi secara ahli dan disesuaikan dengan konteks spesifik mereka.
Inilah sebabnya mengapa American Medical Association mendefinisikan AI sebagai “kecerdasan yang ditingkatkan” – menekankan perannya dalam meningkatkan kecerdasan manusia daripada menggantikannya. Definisi mereka menyoroti pentingnya menjaga kemampuan kognitif dan emosional kita sebagai yang terdepan dalam pengambilan keputusan sebelum beralih ke teknologi.
Para eksekutif yang merangkul kualitas manusia yang tak lekang oleh waktu ini akan mendorong masa depan yang matang dan didukung oleh AI.
Brian R. Spisak, PhD, adalah konsultan independen yang berfokus pada transformasi digital dalam layanan kesehatan. Beliau juga merupakan peneliti di National Preparedness Leadership Initiative di Harvard TH Chan School of Public Health, anggota fakultas di American College of Healthcare Executives dan penulis buku, Kepemimpinan Komputasi.
