Elektroensefalografi (EEG) verilerini işleyen yapay zeka modellerinin karar verme mekanizmalarını anlamaya yönelik yeni bir araştırma, bu sistemlerdeki beklenmedik davranış kalıplarını gün yüzüne çıkardı. Bilim insanları, Layer-wise Relevance Propagation (LRP) adlı bir analiz tekniğini kullanarak, EEG tabanlı temel modellerin hangi beyin sinyallerine odaklandığını inceledi.
Araştırmanın en çarpıcı bulgusu, motor hayal kurma görevlerinde modellerin gerçek motor korteks sinyalleri yerine göz hareketlerinden kaynaklanan sinyalleri önceliklendirmesi oldu. Bu durum, 1900'lerin başında matematik sorularını çözebildiği sanılan ancak aslında sahibinin bilinçsiz jestlerini takip eden 'Akıllı Hans' atına benzetiliyor. Model doğru sonuçlara ulaşıyor, ancak yanlış nedenlerle.
Çalışma aynı zamanda duygu durumu tahmininde modellerin merkezi elektrot kümelerine sürekli güvendiğini ortaya koydu. Bu bulgu, uyarılmışlık durumunun sensorimotor bir imzası olabileceği hipotezini destekliyor ve beyin-davranış ilişkilerine dair yeni araştırma kapıları açıyor.
Bu keşifler, özellikle tıbbi tanı ve beyin-bilgisayar arayüzlerinde kullanılan AI sistemlerinin şeffaflığının artırılması açısından kritik önem taşıyor. Araştırmacılar, bu tür analizlerin gelecekte daha güvenilir ve yorumlanabilir nöroteknolojilar geliştirilmesinde kilit rol oynayacağını belirtiyor.