“algoritmik adalet” için sonuçlar
3 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Adil Tasarlanan Eşleştirme Sistemleri Bile Eşitsiz Sonuçlar Üretebiliyor
Organization Science dergisinde yayınlanan yeni araştırma, bilgisayarlı eşleştirme sistemlerinin adil tasarlanmasına rağmen eşitsiz sonuçlar doğurabileceğini ortaya koyuyor. Çalışma, sistemin nasıl çalıştığını anlamayan kullanıcıların varlığında, önyargıları azaltmak ve dürüst karar vermeyi teşvik etmek için tasarlanan sistemlerde bile adaletsizliklerin ortaya çıkabileceğini gösteriyor. Bu bulgular, teknolojik çözümlerin sosyal adaleti sağlamada tek başına yeterli olmadığını ve kullanıcı eğitiminin kritik önemini vurguluyor.
Yapay zeka modelleri hedefli mesajlarda demografik önyargı gösteriyor
Araştırmacılar, büyük dil modellerinin kişiselleştirilmiş mesajlar üretirken demografik önyargılar sergilediğini ortaya çıkardı. GPT-4o, Llama-3.3 ve Mistral-Large gibi önde gelen modellerin iklim konularında hedefli mesajlar oluşturma davranışları incelendiğinde, yaş ve cinsiyet temelli asimetriler tespit edildi. Erkeklere ve gençlere yönelik mesajların daha iddialı ve kararlı bir dil kullandığı, kadınlara ve yaşlılara yönelik mesajların ise farklı iknaci çerçeveler benimsediği gözlemlendi. Bu durum, yapay zekanın otomatik iletişimde adalet ve önyargı konularında yeni sorular ortaya çıkarıyor. Çalışma, demografik koşullu hedefli mesajlaşmada YZ davranışlarının ilk sistematik analizini sunarak, teknolojinin toplumsal önyargıları nasıl yansıtabileceğine dair önemli bulgular sağlıyor.
Yapay Zeka Gizliliği Adalet ve Güvenlik Açısından Risk Taşıyor
Hassas veriler üzerinde çalışan yapay zeka sistemlerinde gizliliği korumak için kullanılan diferansiyel mahremiyet yöntemlerinin beklenmedik yan etkileri olduğu ortaya çıktı. MIT ve Stanford araştırmacılarının yaptığı yeni çalışma, gizlilik için eklenen matematiksel gürültünün AI modellerinin farklı grupları eşit şekilde öğrenmesini engellediğini ve siber saldırılara karşı savunmasızlık yarattığını gösteriyor. Bu durum, özellikle sağlık ve finans gibi kritik alanlarda kullanılan AI sistemlerinde hem algoritmik adaletsizlik hem de güvenlik açıkları yaratabilir. Araştırma, gizlilik ve performans arasındaki dengeyi yeniden düşünmemiz gerektiğini ortaya koyuyor.