Araştırmacılar, 2024 ABD başkanlık seçimleri çevresinde X (Twitter) üzerindeki siyasi tartışmaları analiz ederek, hangi konularda ve ideolojilerde daha fazla zararlı içerik üretildiğini ortaya çıkardı. Çalışma, yapay zeka destekli büyük ölçekli analiz yöntemleriyle beş haftalık dönemde milyonlarca gönderiyi inceledi. Bulgular, kimlik odaklı konuların en yüksek toksisite seviyelerine sahip olduğunu gösterirken, duygusal ton ve ahlaki çerçevelemenin zararlı içerik üretimindeki rolünü de aydınlattı. Bu araştırma, dijital demokraside çevrimiçi söylemin nasıl şekillendiğini anlamak için önemli veriler sunuyor.

Büyük dil modelleri (LLM) artık sosyal medya içeriklerini sıralama ve önerme görevlerinde yaygın kullanılıyor. Araştırmacılar, OpenAI, Anthropic ve Google'ın yapay zeka modellerini Twitter, Bluesky ve Reddit verilerinde test ederek, bu sistemlerin hangi önyargıları taşıdığını inceledi. 540 bin simülasyonun sonuçları şaşırtıcı: farklı yönlendirme stratejileri kullanılsa bile, tüm modeller toplumsal kutuplaşmayı artıran içerikleri tercih ediyor. Çalışma, yapay zekanın 'nötr' görünen algoritmaların bile belirli görüşleri kayırdığını ve bu durumun sadece teknik bir sorun olmadığını ortaya koyuyor. Bulgular, yapay zeka destekli içerik küratörlüğünün toplumsal etkilerini anlamak açısından kritik önem taşıyor.

Stanford araştırmacıları, Twitter'da toksik içeriklere verilen ilk yanıtların, sonraki tüm konuşmanın seyrini belirlediğini ortaya koydu. 187 bin tweet ve 9 bin konuşmayı analiz eden çalışma, sosyal normların çevrimiçi davranışları nasıl şekillendirdiğini gösteriyor. Araştırma, toksik bir tweet'e verilen ilk yanıtın yapıcı olması durumunda, sonraki kullanıcıların da daha ölçülü davrandığını; ancak ilk yanıt saldırgan olursa, diğerlerinin de benzer şekilde davranma eğiliminde olduğunu buldu. Bu keşif, sosyal medya platformlarının zararlı içerikle mücadelede sadece bireysel hesapları değil, grup dinamiklerini de dikkate alması gerektiğini gösteriyor.