“ayrımcılık” için sonuçlar
3 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Yapay Zeka Görsel Modellerde Önyargı: 30 Milyon Görsel ile Test Edildi
Araştırmacılar, görsel-dil modellerindeki toplumsal önyargıları değerlendirmek için VIGNETTE adlı kapsamlı bir test sistemi geliştirdi. 30 milyondan fazla görsel içeren bu sistem, yapay zekanın görsel ipuçlarından yola çıkarak nasıl toplumsal kalıpyargılara dayalı çıkarımlar yaptığını ortaya koyuyor. Çalışma, mevcut bias araştırmalarının ötesine geçerek, yapay zekanın gerçek yaşam bağlamlarında kimlik algısı, karar verme süreçleri ve ayrımcılık eğilimlerini analiz ediyor. Sosyal psikoloji yaklaşımını benimseyen araştırma, AI sistemlerinin görsel kimlik işaretlerini nasıl toplumsal hiyerarşilere dönüştürdüğünü gösteriyor.
Yapay Zeka Modelleri Sosyal Statüye Göre Ayrımcılık Yapıyor
ABD federal kurumlarında halkın görüşlerini değerlendirmek için kullanılan büyük dil modellerinin (LLM) eşit davranıp davranmadığını test eden yeni bir araştırma şaşırtıcı sonuçlar ortaya çıkardı. Cornell Üniversitesi araştırmacıları, aynı yorumu farklı meslek gruplarından kişilere atfederek 8 farklı yapay zeka modelini test etti. 182 halk yorumu üzerinde yapılan deneyler, 106.000'den fazla özet analiz edildi. Sonuçlar gösterdi ki yapay zeka modelleri, aynı yorumu sokak satıcısına atfettiklerinde, finansal analistle karşılaştırıldığında daha basit dil kullanıyor ve orijinal anlamın daha azını koruyor. Irksal ve cinsiyet farklılıkları tutarlı bir etki göstermezken, sosyoekonomik statü belirgin bir ayrımcılık faktörü olarak ortaya çıktı. Bu bulgular, demokratik karar alma süreçlerinde yapay zekanın kullanımında ciddi eşitlik sorunlarına işaret ediyor.
Yapay Zeka Hareket Tanıma Sistemlerinde Ten Rengi Önyargısı Tespit Edildi
Araştırmacılar, insan hareketlerini tanıyan yapay zeka sistemlerinin ten rengine dayalı önyargılar içerdiğini ortaya çıkardı. Kritik alanlarda kullanılan bu sistemlerin adil olmayan sonuçlar üretebildiği belirlendi. Çalışmada, aynı hareket yapan farklı ten rengindeki karakterlerin yer aldığı sentetik videolar kullanılarak, sadece görsel kimlik özelliklerinin model tahminlerini nasıl etkilediği test edildi. Sonuçlar, bazı popüler hareket tanıma modellerinin ten rengine göre istatistiksel olarak anlamlı önyargılar sergilediğini gösterdi. Bu keşif, yapay zekanın insan görünümüne dayalı ayrımcılık yapabileceği endişelerini destekliyor ve güvenlik, sağlık gibi hassas alanlarda kullanılan bu teknolojilerin yeniden değerlendirilmesi gerektiğine işaret ediyor.