“önyargı azaltma” için sonuçlar
2 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Yapay Zeka Sistemlerinde Önyargıları Azaltmanın Yeni Yöntemi Keşfedildi
RAG (Retrieval-Augmented Generation) sistemlerindeki yoğun arama motorları, kısalık, konum ve tekrar gibi sistematik önyargılar sergileyerek arama kalitesini düşürüyor. Araştırmacılar, sorgu yeniden yazma tekniklerinin bu önyargıları nasıl etkilediğini ilk kez kapsamlı olarak inceledi. Beş farklı yöntem ve altı arama motoruyla yapılan çalışmada, basit dil modeli tabanlı yeniden yazmanın önyargıları %54 oranında azalttığı keşfedildi. Ancak birden fazla önyargının birleştiği zorlu durumlarda bu yöntem yetersiz kalıyor. Mekanizmaya yönelik analizler, farklı tekniklerin önyargı azaltmada iki ayrı yol izlediğini ortaya koyuyor.
Yazılım geliştirmede yapay zeka adalet sorunu: Çok ajanlı sistemlerde önyargı tehlikesi
Yazılım geliştirme süreçlerinde giderek daha fazla kullanılan büyük dil modelleri ve çok ajanlı sistemlerin adalet açısından değerlendirildiği kapsamlı bir araştırma yayınlandı. 350 çalışmadan elenen 18 araştırmanın analiz edildiği çalışmada, bu sistemlerin yazılımcı araçlarında nasıl önyargılara yol açabileceği inceleniyor. Araştırma, hangi kodların yazıldığı, gözden geçirildiği ve piyasaya sürüldüğü konularında bu sistemlerin etkisinin arttığını, ancak adalet boyutunun yeterince araştırılmadığını ortaya koyuyor. Çalışma, önyargı azaltma, demografik eşitlik ve sistem içi etkileşim dinamiklerini kapsayan çok boyutlu bir adalet çerçevesi sunuyor.