Yapay zeka modellerinin tıp alanındaki kullanımında kritik bir sorun keşfedildi. EEG (beyin dalgası) verilerini analiz eden yapay zeka sistemlerinin, hastalık teşhisi yaparken aslında kişisel kimlik özelliklerini öğrendiği ortaya çıktı.
Araştırmacılar bu durumu 'Kimlik Tuzağı' olarak isimlendirdiler. Modeller yüksek doğruluk oranları gösterse de, bunun nedeni gerçek klinik bulgular değil, her bireye özgü beyin dalga desenlerini tanıması. Bu durum, modelin gerçek tanı koyma yeteneği olmadığı halde başarılı görünmesine neden oluyor.
Çalışmada LaBraM, CBraMod ve REVE adlı üç farklı EEG yapay zeka modeli test edildi. Sonuçlar, bu tuzağın evrensel olduğunu gösterdi - test edilen 12 model çiftinin tamamında donmuş özne varyansının rastgele bir boş değerden 13-89 kat daha yüksek olduğu tespit edildi.
Bu sorunu çözmek için araştırmacılar FMScope adlı yeni bir tanı protokolü geliştirdiler. Bu sistem beş farklı tanılama yöntemi kullanarak modellerin gerçek performansını değerlendiriyor: varyans ayrıştırma, özne ekseni silme, aperiodik 1/f ablasyon, katman bazlı etiket araştırma ve özne içi yön tutarlılığı.
Bu bulgu, tıbbi yapay zeka sistemlerinin değerlendirilmesinde yeni standartların gerekli olduğunu gösteriyor ve hasta güvenliği açısından kritik önem taşıyor.