Sosyal medya platformlarının ve haber sitelerinin yapay zeka algoritmaları kullanarak içerik önerme sistemleri giderek yaygınlaşıyor. Ancak bu sistemlerin hangi önyargıları taşıdığı ve bunların ne kadar değiştirilebilir olduğu büyük bir merak konusuydu.
Araştırmacılar, bu soruyu yanıtlamak için kapsamlı bir deney tasarladı. OpenAI, Anthropic ve Google'ın büyük dil modellerini, gerçek sosyal medya verilerinde test ettiler. Twitter/X, Bluesky ve Reddit'ten alınan gönderiler arasından, modellere en iyi 10 içeriği seçtirdiler.
Deneyler sırasında altı farklı yönlendirme stratejisi kullanıldı: genel, popüler, ilgi çekici, bilgilendirici, tartışmalı ve tarafsız. Her bir durumda modellerin hangi içerikleri tercih ettiği incelendi. Toplamda 540 bin farklı seçim simülasyonu gerçekleştirildi.
Sonuçlar oldukça düşündürücü çıktı. Kullanılan strateji ne olursa olsun, tüm modeller kutuplaştırıcı içerikleri öncelikte tutma eğilimi gösterdi. Bu durum, yapay zekanın 'varsayılan olarak kutuplaşma' yarattığını ortaya koyuyor.
Özellikle dikkat çeken nokta, bazı önyargıların yönlendirme stratejisiyle değiştirilmesi mümkünken, kutuplaşma eğiliminin tüm konfigürasyonlarda sabit kalmasıydı. Bu bulgular, yapay zeka destekli içerik küratörlüğünün toplumsal etkilerini yeniden değerlendirmemiz gerektiğini gösteriyor.