Yapay zeka teknolojilerinin hızla gelişmesi, dijital medyada gerçek ve sahte içerikleri ayırt etmeyi giderek zorlaştırıyor. Bu durumun online bilgi ekosistemi üzerindeki etkilerini anlayabilmek için araştırmacılar kapsamlı bir analiz gerçekleştirdi.
Çalışmada CONVEX adı verilen büyük ölçekli bir veri seti kullanılarak, X platformundaki 150 binden fazla çoklu medya paylaşımı incelendi. Bu paylaşımlar arasında yanlış başlıklandırılmış, düzenlenmiş ve yapay zeka ile üretilmiş görsel içerikler yer alıyordu. Araştırma, Community Notes sistemi üzerinden toplanan etkileşim metrikleri ve kullanıcı notlarını da analiz etti.
Elde edilen sonuçlar oldukça çarpıcı: Yapay zeka ile üretilen sahte içerikler, gerçek içeriklere kıyasla orantısız bir şekilde viral oluyor. Ancak bu hızlı yayılma, kullanıcıların aktif tartışmasından ziyade beğeni ve paylaşım gibi pasif etkileşimlerle gerçekleşiyor.
İlginç bir şekilde, AI üretimi içerikler başlangıçta daha yavaş rapor edilmesine rağmen, bir kez işaretlendikten sonra topluluk konsensüsüne daha hızlı ulaşıyor. Bu durum, kullanıcıların bu tür içerikleri tespit etmekte zorlandığını ancak fark ettiklerinde daha net karar verebildiklerini gösteriyor.
Araştırma ayrıca, özel yapay zeka dedektörlerinin ve görsel-dil modellerinin performansında tutarlı bir düşüş olduğunu ortaya koyuyor. Bu bulgu, teknolojik silahlanma yarışında sahte içerik üreticilerinin bir adım önde olduğuna işaret ediyor.