Yazılım geliştirme süreçlerinde giderek daha fazla kullanılan büyük dil modelleri ve çok ajanlı sistemlerin adalet açısından değerlendirildiği kapsamlı bir araştırma yayınlandı. 350 çalışmadan elenen 18 araştırmanın analiz edildiği çalışmada, bu sistemlerin yazılımcı araçlarında nasıl önyargılara yol açabileceği inceleniyor. Araştırma, hangi kodların yazıldığı, gözden geçirildiği ve piyasaya sürüldüğü konularında bu sistemlerin etkisinin arttığını, ancak adalet boyutunun yeterince araştırılmadığını ortaya koyuyor. Çalışma, önyargı azaltma, demografik eşitlik ve sistem içi etkileşim dinamiklerini kapsayan çok boyutlu bir adalet çerçevesi sunuyor.

Araştırmacılar, metin-görsel üretim sistemlerinde kullanılan ödül modellerinin beklenmedik demografik önyargılar içerdiğini keşfetti. Bu modeller kalite değerlendirmesi için tasarlanmış olmasına rağmen, belirli demografik grupları kayıran kararlar aldığı ortaya çıktı. Stanford ve diğer üniversitelerden araştırmacıların yürüttüğü kapsamlı çalışma, yapay zeka sistemlerinin insan tercihlerini öğrenme sürecinde istenmeyen önyargıları da içselleştirdiğini gösteriyor. Bu durum, AI-generated içeriklerin adilliğini ve çeşitliliğini olumsuz etkileyebilir.

Araştırmacılar, AI ajanlarının çok-ajanlı ortamlarda nasıl koordine olduğunu ve teşviklere yanıt olarak davranış benzerliklerini nasıl ayarladığını inceledi. Çalışma, birincil ve stratejik algoritmik monoculture arasındaki farkı ortaya koyuyor.