Araştırmacılar, sağlık hizmetlerinde yapay zekanın kullanımı konusunda etik rehberlik çağrısında bulundu

Yakın zamanda yayınlanan bir inceleme makalesinde npj Dijital TıpAraştırmacılar, sistematik bir inceleme yoluyla sağlık hizmetlerinde Büyük Dil Modelleri’nin (LLM) uygulanmasının etik etkilerini araştırdılar.

Sonuçları, LLM’lerin gelişmiş veri analizi ve karar desteği gibi önemli avantajlar sunmasına rağmen, adalet, önyargı, şeffaflık ve gizlilik konusundaki kalıcı etik endişelerin, bunların uygulanmasında tanımlanmış etik yönergelerin ve insan denetiminin gerekliliğini vurguladığını göstermektedir.

Çalışmak: Tıp ve sağlık hizmetlerinde ChatGPT’nin etiği: Büyük Dil Modelleri (LLM) üzerine sistematik bir incelemeResim Kredisi: Summit Art Creations/Shutterstock.com

Arka plan

Gelişmiş yapay zeka (AI) yetenekleri nedeniyle Hukuk Yüksek Lisans (LL.M) derecelerine olan ilgi, OpenAI’nin 2022’de ChatGPT’yi yayınlamasıyla belirgin bir şekilde ortaya çıktı.

Bu teknoloji, tıp ve sağlık hizmetleri de dahil olmak üzere çeşitli sektörlere hızla yayılmış olup, klinik karar alma, teşhis ve hasta iletişimi görevleri için umut vaat etmektedir.

Ancak, potansiyel faydalarının yanı sıra etik etkileri konusunda endişeler de ortaya çıktı. Önceki araştırmalar, yanlış tıbbi bilgilerin yayılması, hassas hasta verilerinin işlenmesinden kaynaklanan gizlilik ihlalleri ve cinsiyet, kültür veya ırka dayalı önyargıların devam etmesi gibi riskleri vurguladı.

Bu endişelere rağmen, LLM’leri sağlık hizmetlerine entegre etmenin etik zorluklarını sistematik olarak ele alan kapsamlı çalışmalarda belirgin bir boşluk vardır. Mevcut literatür, bütünsel bir genel bakış sağlamak yerine belirli örneklere odaklanmaktadır.

Yöntemler

Sağlık hizmeti ortamlarının sıkı etik standartlar ve düzenlemeler gerektirmesi nedeniyle bu alandaki mevcut boşlukların giderilmesi hayati önem taşımaktadır.

Bu sistematik incelemede araştırmacılar, gelecekteki etik LLM kullanımını yönetmeyi amaçlayan tartışmaları, politikaları ve yönergeleri bilgilendirmek için potansiyel faydaları ve zararları belirlemek amacıyla sağlık hizmetlerinde LLM’lerin rolünü çevreleyen etik manzarayı haritalandırdılar.

Araştırmacılar, Uluslararası Sistematik İncelemeler Prospektif Kaydı’na kayıtlı, pratik uygulamalar ve etik hususlar üzerine bir inceleme protokolü tasarladılar. Etik onay gerekli değildi.

Teknoloji alanlarındaki yaygınlığı ve potansiyel alakaları nedeniyle henüz veritabanlarında indekslenmemiş olan ön baskıları göz önünde bulundurarak veri toplamak için ilgili yayın veri tabanlarını ve ön baskı sunucularını aradılar.

Dahil etme kriterleri müdahale, uygulama ortamı ve sonuçlara dayalıydı; yayın türü konusunda herhangi bir kısıtlama yoktu ancak yalnızca tıp eğitimi veya akademik yazıyla ilgili çalışmalar hariç tutuldu.

Başlıkların ve özetlerin ilk taramasından sonra, veriler yapılandırılmış bir form kullanılarak çıkarıldı ve kodlandı. Kalite değerlendirmesi, hakemli materyali ayırt etmek için prosedürel kalite kriterlerine betimsel olarak odaklandı ve raporlama sırasında geçerlilik ve kapsamlılık için bulgularla eleştirel olarak ilgilendi.

Bulgular

Çalışmada, LLM’lerin sağlık hizmetlerindeki etik çıkarımları ve uygulamalarını keşfetmek için 53 makale analiz edildi. Araştırmadan dört ana tema ortaya çıktı: klinik uygulamalar, hasta destek uygulamaları, sağlık profesyonellerinin desteği ve halk sağlığı perspektifleri.

Klinik uygulamalarda, LLM’ler, sağlık risklerini belirlemek ve tedavileri önermek için öngörücü analiz kullanarak ilk hasta teşhisi ve triyajına yardımcı olma potansiyeli göstermektedir.

Ancak, doğrulukları ve karar alma süreçlerinde önyargı potansiyeli konusunda endişeler ortaya çıkıyor. Bu önyargılar yanlış teşhislere veya tedavi önerilerine yol açabilir ve sağlık profesyonellerinin dikkatli denetime olan ihtiyacını vurgular.

Hasta destek başvuruları, bireylerin tıbbi bilgilere erişmelerine, semptomları yönetmelerine ve sağlık sistemlerinde gezinmelerine yardımcı olan LLM’lere odaklanır.

Hukuk alanındaki yüksek lisans programları sağlık okuryazarlığını ve dil engellerini aşan iletişimi geliştirebilse de, bu modellerin ürettiği veri gizliliği ve tıbbi tavsiyelerin güvenilirliği önemli etik hususlar olmaya devam etmektedir.

Sağlık profesyonellerine destek sağlayan LLM’lerin, idari görevleri otomatikleştirmek, hasta etkileşimlerini özetlemek ve tıbbi araştırmaları kolaylaştırmak için önerildiği belirtiliyor.

Bu otomasyon verimliliği artırabilse de, mesleki beceriler, araştırma çıktılarının bütünlüğü ve otomatik veri analizinde önyargı potansiyeli üzerindeki etkisi konusunda endişeler bulunmaktadır.

Halk sağlığı açısından bakıldığında, Hukuk Yüksek Lisansı (LL.M.) hastalık salgınlarını izleme, sağlık bilgilerine erişimi iyileştirme ve halk sağlığı iletişimini geliştirme fırsatları sunmaktadır.

Ancak araştırmada, yanlış bilginin yayılması ve yapay zeka gücünün birkaç şirkette yoğunlaşması gibi risklerin de vurgulandığı, bunun potansiyel olarak sağlık eşitsizliklerini daha da kötüleştirebileceği ve kamu sağlığı çabalarını baltalayabileceği belirtiliyor.

Genel olarak, hukuk yüksek lisansı (LL.M.) sağlık alanında ümit verici gelişmeler sunarken, etik açıdan uygulanmaları önyargıların, gizlilik endişelerinin ve olası zararları azaltmak, eşit erişimi ve hasta güvenliğini sağlamak için insan denetimine duyulan ihtiyacın dikkatli bir şekilde değerlendirilmesini gerektirir.

Sonuçlar

Araştırmacılar, ChatGPT gibi LLM’lerin, büyük veri kümelerini hızla analiz ederek ve kişiselleştirilmiş bilgiler sağlayarak verimliliği ve hasta bakımını artırma potansiyelleri nedeniyle sağlık hizmetlerinde yaygın olarak araştırıldığını buldular.

Ancak önyargılar, şeffaflık sorunları ve klinik ortamlarda ciddi sonuçlara yol açabilen halüsinasyon adı verilen yanıltıcı bilgilerin üretilmesi gibi etik kaygılar devam etmektedir.

Çalışma, yapay zeka etiği üzerine yapılan daha geniş araştırmalarla örtüşüyor ve yapay zekanın sağlık alanında kullanılmasının karmaşıklıklarını ve risklerini vurguluyor.

Bu çalışmanın güçlü yönleri arasında kapsamlı bir literatür taraması ve LLM başvurularının ve etik konuların yapılandırılmış bir şekilde kategorize edilmesi yer almaktadır.

Bu alandaki etik incelemenin gelişmekte olan doğası, ön baskı kaynaklara güvenilmesi ve Kuzey Amerika ve Avrupa’dan gelen bakış açılarının baskın olması gibi sınırlamalar bulunmaktadır.

Gelecekteki araştırmalar, sağlam etik yönergelerin tanımlanmasına, algoritma şeffaflığının artırılmasına ve LLM’lerin küresel sağlık hizmetleri bağlamlarında eşit bir şekilde dağıtılmasının sağlanmasına odaklanmalıdır.

Kaynak