Yapay zeka chatbotlarının tıbbi konulardaki güvenilirliğini test eden kapsamlı bir araştırma, endişe verici sonuçlar ortaya koydu. ChatGPT ve Grok gibi yaygın kullanılan AI sistemlerinin sağlık tavsiyeleri konusundaki performansı incelendiğinde, verilen bilgilerin yaklaşık yarısının problemli olduğu görüldü.
Çalışmanın en dikkat çekici bulgularından biri, chatbotların sadece yanlış bilgi vermekle kalmayıp, aynı zamanda gerçekte var olmayan bilimsel kaynaklardan alıntılar yapması oldu. Bu durum, AI sistemlerinin hallüsinasyon problemi olarak bilinen fenomenin tıp alanındaki tehlikeli sonuçlarını gözler önüne seriyor.
Araştırmacılar, chatbotların bilgi eksikliklerini kabul etmekte isteksiz davrandığını ve belirsizlik durumlarında bile kesin tavsiyelerde bulunmaya devam ettiklerini gözlemledi. Bu davranış, kullanıcıların yanlış yönlendirilmesi riskini önemli ölçüde artırıyor.
Bulgular, insanların sağlık sorunları için yapay zeka sistemlerine güvenmenin ciddi riskler taşıdığını gösteriyor. Uzmanlar, AI chatbotlarının tıbbi tavsiye vermek için henüz yeterince güvenilir olmadığını ve profesyonel sağlık hizmetlerinin yerini alamayacağını vurguluyor. Bu araştırma, AI teknolojisinin sağlık alanındaki uygulamalarında daha sıkı kalite kontrolleri ve iyileştirmelere acil ihtiyaç olduğuna işaret ediyor.