“sosyal önyargı” için sonuçlar
6 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
YZ'nin fizik sorularında gizli önyargılar: Hangi meslek grubuna ne tür problemler veriliyor?
Yapay zeka sistemlerinin oluşturduğu fizik problemleri teknik olarak doğru olsa da, sosyal önyargılar barındırıyor. Araştırmacılar, dört farklı YZ sisteminin ürettiği 600 fizik sorusunu analiz etti. CEO ve fizikçilere güvenli, karmaşık problemler verilirken, inşaat işçisi ve göçmen işçi karakterlerine tehlikeli senaryolar yazılıyor. Bu durum, YZ'nin eğitim materyallerinde toplumsal kalıpları yeniden ürettiğini gösteriyor. Fizik öğretiminde kullanılan bu problemler, öğrencilerin meslek algılarını şekillendirebilir.
Yapay Zeka Tıp Asistanları Hastanın Cinsel Yöneline Göre Farklı Tanı Koyuyor
Tıp alanında kullanılan büyük dil modelleri, hastaların cinsel yönelimi ve dini inançları gibi sosyal özelliklerine göre farklı performans gösteriyor. Araştırmacılar 9 farklı AI modelini 2.364 tıbbi soru üzerinde test ederek, 'eşcinsel' tanımlamasının tutarlı şekilde performans düşüşüne yol açtığını keşfetti. Bu durum, AI sistemlerinin güvenilirlik seviyesini ölçen 'kalibrasyon' mekanizmalarında ciddi sorunlara neden oluyor. Özellikle birden fazla sosyal kimlik özelliği bir arada bulunduğunda, AI'ın kendine güven seviyesi ile gerçek doğruluk oranı arasında tehlikeli farklılıklar ortaya çıkıyor. Bu bulgular, tıbbi AI asistanlarının klinik ortamda güvenle kullanılabilmesi için sosyal önyargıların giderilmesi gerektiğini gösteriyor.
Yapay Zeka Modellerindeki Önyargıları Tespit Eden Yeni Yöntem Geliştirildi
Araştırmacılar, büyük dil modellerinin farklı sosyal gruplar hakkında ürettiği metinlerdeki gizli önyargıları ortaya çıkaran yenilikçi bir metodoloji geliştirdi. Bu yaklaşım, önceden belirlenmiş kelime listelerine dayanan geleneksel yöntemlerden farklı olarak, yapay metinler üreterek ve istatistiksel analiz yaparak daha ince önyargı kalıplarını tespit edebiliyor. Yöntem, aynı durumu farklı sosyal gruplar için anlatan metin çiftleri oluşturarak, sadece grup referansının değiştiği karşılaştırmalı veriler üretiyor. Bu sayede dil modellerinin hangi dilbilimsel yapıları hangi gruplarla ilişkilendirdiği objektif şekilde ölçülebiliyor. Araştırma, yapay zeka sistemlerindeki adalet ve eşitlik sorunlarının çözümüne önemli katkı sağlayacak nitelikte.
Yapay Zeka Artık İnsanların Sosyal Önyargılarını Daha İyi Anlayabiliyor
Stanford araştırmacıları, yapay zekanın insan bakış açılarını modellemede çığır açan bir yöntem geliştirdi. 'Sosyo-Kontrastif Öğrenme' adı verilen bu teknik, insanların aynı konularda neden farklı görüşlere sahip olduğunu yaş, cinsiyet, eğitim durumu gibi demografik özelliklerle birlikte analiz ediyor. Geleneksel yapay zeka sistemleri genellikle tek bir 'doğru' cevap arar, ancak gerçek dünyada insanlar subjektif deneyimlerinden dolayı aynı metinleri farklı yorumlayabiliyor. Bu araştırma, doğal dil işleme alanında annotator anlaşmazlıklarının aslında geçerli farklı perspektifleri yansıttığını gösteriyor. Yeni yöntem, sosyal bağlamın karmaşıklığını dikkate alarak mevcut basit birleştirme yöntemlerinden daha başarılı sonuçlar veriyor.
Yapay Zeka Görsel Üreticilerindeki Önyargılar Artık Çözümü Var
Metin-görsel AI modellerinin toplumsal önyargıları güçlendirmesi, etik kullanımlarında ciddi sorunlar yaratıyor. Araştırmacılar, bu soruna yenilikçi bir çözüm getirdi: Embedding Arithmetic yöntemi. Bu teknik, modelin ağırlıklarını değiştirmeden, sadece çıkarım aşamasında önyargıları azaltıyor. FLUX 1.0-Dev ve Stable Diffusion 3.5-Large modellerinde test edilen yöntem, görsel bağlamı korurken sosyal önyargıları başarıyla elimine ediyor. Sistem, uygulayıcılara adalet-tutarlılık dengesini ayarlama olanağı sunuyor. Araştırmacılar ayrıca geleneksel CLIP skorlarının sınırlarını aşmak için yeni bir değerlendirme metriği olan Kavram Tutarlılık Skoru'nu (CCS) geliştirdi.
Yapay Zeka Sosyal İlişkileri Anlama Konusunda Yetersiz Kalıyor
Araştırmacılar, büyük dil modellerinin (LLM) sosyal ilişkileri anlama yetisini test etmek için SCRIPTS adlı yeni bir veri seti geliştirdiler. Film senaryolarından alınan 1100 diyaloğu içeren bu veri setiyle yapılan testlerde, yapay zeka modellerinin konuşmacılar arasındaki ilişkileri (arkadaş, sevgili, aile vb.) tespit etme başarısı İngilizce için %75-80, Korece için ise sadece %58-69 seviyesinde kaldı. Özellikle düşünce zinciri yönteminin sosyal akıl yürütmede beklenen faydayı sağlamadığı, hatta bazen sosyal önyargıları artırdığı gözlemlendi. Bu bulgular, yapay zekanın insan etkileşimlerinde kritik olan sosyal anlayış konusundaki sınırlarını ortaya koyuyor.