Yapay zeka sistemlerinin sağlık alanında kullanımı hızla artarken, bu teknolojilerin hastalardan gelen yanlış bilgi içeren sorulara nasıl tepki verdiği kritik bir konu haline geldi. Yeni bir araştırma, günümüzün en gelişmiş yapay zeka modellerinin bile bu konuda yetersiz kaldığını gösteriyor.
Araştırmacılar, gerçek dünyada hastaların sağlık soruları sorarken sıklıkla fark etmeden yanlış varsayımlar ya da öncüller kullandığını belirtiyor. Bu durumda güvenli tıbbi iletişim, önce bu yanlış inancı ele alıp düzeltmeyi, sonra hastanın gerçek endişesine odaklanmayı gerektiriyor.
MedRedFlag adı verilen veri seti için Reddit'ten toplanan 1100'den fazla soru analiz edildi. Bu sorular, yönlendirme gerektiren gerçek kullanıcı deneyimlerini yansıtıyor. Araştırmada, önde gelen büyük dil modellerinin yanıtları klinisyenlerinkilerle sistematik olarak karşılaştırıldı.
Sonuçlar dikkat çekici: Yapay zeka sistemleri, sorulardaki problematik öncülleri tespit etse bile, bunları uygun şekilde yönlendirmekte sık sık başarısız oluyor. Bu durum, AI tabanlı sağlık danışmanlığının güvenliği konusunda ciddi endişeler yaratıyor.
Bulgular, yapay zeka sistemlerinin sağlık alanında daha yaygın kullanılmadan önce, yanlış bilgileri tespit etme ve düzeltme konusundaki yeteneklerinin geliştirilmesi gerektiğine işaret ediyor.