Yapay zeka alanında önemli bir keşif: Görme ve dil yeteneklerini birleştiren gelişmiş yapay zeka modelleri, internet verilerinden öğrendikleri bilgiler nedeniyle objektif görsel görevlerde ciddi önyargılar sergiliyor.
Stanford Üniversitesi araştırmacılarının yürüttüğü çalışma, en son teknoloji görme-dil modellerinin basit sayma ve tanıma işlemlerinde beklenmedik şekilde başarısız olduğunu ortaya çıkardı. En çarpıcı örnek, modellerin tanıdık 3 çizgili Adidas logosuna dördüncü bir çizgi eklendiğinde bunu fark edememesi oldu.
Araştırmada yedi farklı kategoride testler yapıldı: hayvan desenleri, markalar, satranç taşları, masa oyunları, optik illüzyonlar ve desenli ızgaralar. Sonuçlar şaşırtıcıydı - modellerin ortalama başarı oranı yalnızca %17,05 seviyesinde kaldı.
Özellikle ilginç olan bulgulardan biri, görüntülerin arka planları kaldırıldığında doğruluk oranının %21 artış göstermesiydi. Bu durum, görsel bağlam ipuçlarının önyargılı yanıtları tetiklediğini açık şekilde gösteriyor.
Bu araştırma, yapay zeka modellerinin önceden öğrendiği bilgilerin bazen nesnel görsel analizi engellediğini kanıtlıyor. Bulgular, AI sistemlerinin güvenilirliği açısından önemli sorular gündeme getiriyor.