Hasta danışmanlığında kullanılan yapay zeka chatbotlarında tespit edilen kritik güvenlik açıkları, sağlık teknolojilerinde AI güvenliğinin ne kadar önemli olduğunu gözler önüne serdi. Araştırmacılar tarafından gerçekleştirilen anonymize edilmiş güvenlik değerlendirmesi, halka açık tıbbi chatbotlarda ciddi gizlilik riskleri olduğunu ortaya çıkardı.
Çalışmada iki aşamalı bir metodoloji kullanıldı. İlk aşamada Claude Opus 4.6 AI modeli ile keşifsel prompt tabanlı testler yapılarak güvenlik açığı hipotezleri oluşturuldu. İkinci aşamada ise Chrome Geliştirici Araçları kullanılarak bu bulgular manuel olarak doğrulandı ve ağ trafiği, API şemaları ile etkileşim verileri incelendi.
Araştırma sonuçları, RAG teknolojisi kullanan tıbbi chatbotlarda hassas sistem bilgilerinin ifşa olabildiğini gösterdi. Bu durum, hasta verilerinin ve backend sistemlerin güvenliğini tehdit eden kritik bir zafiyet oluşturuyor.
Bulgular, AI destekli geliştirme araçlarının bu tür uygulamaları oluşturmayı kolaylaştırmasına rağmen, sağlık alanında yapay zeka sistemlerinin güvenli dağıtımı için kapsamlı güvenlik protokollerinin hayati önemde olduğunu vurguluyor. Tıbbi AI chatbotların klinik kullanıma sunulmasında güvenlik ve gizlilik kontrollerinin ihmal edilmesi ciddi sonuçlar doğurabilir.