Yapay zeka alanında önemli bir güvenilirlik sorunu ortaya çıktı. Görüntü segmentasyonu yapan modeller, nesnelerin konumlarını ve sınırlarını doğru tespit edebiliyor ancak bu nesnelere tamamen yanlış semantik etiketler atıyor.
Araştırmacılar bu duruma 'semantik etiket takası' adını verdi. Model, örneğin bir köpeğin görüntüdeki tam yerini buluyor, sınırlarını mükemmel çiziyor ama buna 'kedi' etiketini yapıştırıyor. Geleneksel değerlendirme yöntemleri bu hatayı yakalayamıyor çünkü konum doğruluğuna odaklanıyor.
Sorunun kökü, eğitim verilerindeki sahte korelasyonlarda yatıyor. Model, gerçek neden-sonuç ilişkileri yerine rastlantısal bağlantıları öğreniyor. Eğitim sırasında belirli bir nesne türünün belirli ortamlarla sürekli birlikte görülmesi, modelin yanlış çıkarımlar yapmasına neden oluyor.
Araştırma ekibi, bu sorunu tespit etmek için 'Flip' adında basit ama etkili bir tanı yöntemi geliştirdi. Bu yöntem, doğru konumda tespit edilen ancak yanlış etiketlenen pikselleri sayıyor.
Bulgular, yapay zeka modellerinin değerlendirilmesinde yeni yaklaşımlara ihtiyaç olduğunu gösteriyor. Özellikle otonom araçlar ve tıbbi görüntüleme gibi kritik alanlarda bu tür hatalar ciddi sonuçlar doğurabilir.