Yapay zeka teknolojilerinin gelişmesiyle birlikte sahte ve gerçek medya içerikleri arasındaki fark giderek belirsizleşiyor. Araştırmacılar, X platformundaki 150 binden fazla paylaşımı analiz ederek yapay zeka ile üretilen sahte içeriklerin nasıl yayıldığını inceledi. Bulgular, AI üretimi sahte haberlerin orantısız bir şekilde viral olduğunu, ancak bu yayılmanın aktif tartışmalardan ziyade pasif etkileşimlerle gerçekleştiğini gösteriyor. Yapay zeka dedektörlerinin performansının da düştüğü gözlemlenen çalışma, dijital çağda bilgi güvenliğinin önemini bir kez daha vurguluyor.

Sosyal medyada yayılan yanıltıcı grafikler ve görselleştirmeler misinformasyonun önemli bir kaynağı haline geldi. Bu grafikler tasarım kurallarını ihlal ederek verileri çarpıtıyor ve okuyucuları yanlış sonuçlara götürüyor. Araştırmacılar bu sorunu çözmek için büyük dil modelleri kullanarak yanıltıcı grafikleri otomatik olarak tespit eden bir sistem geliştirdi. Çalışma kapsamında 2.604 gerçek dünya görselleştirmesinden oluşan Misviz veri seti ve 57.665 sentetik görselden oluşan Misviz-synth veri seti oluşturuldu. Bu sistemler 12 farklı türde yanıltıcı tasarım kuralı ihlalini tespit edebiliyor. Araştırma, hem insanların hem de yapay zeka modellerinin bu tür yanıltıcı görsellere sıkça kandığını gösteriyor.