Sosyal medya platformlarında propaganda ve dezenformasyonla mücadele eden yapay zeka sistemleri, kullanıcı gizliliği açısından beklenmedik riskler taşıyor. Yeni bir araştırma, bu sistemlerin veri işleme süreçlerinde ortaya çıkan gizlilik sorunlarını kapsamlı bir şekilde analiz etti.
Araştırmacılar, 162 akademik çalışmayı inceleyerek online propaganda tespit sistemlerinin üç kritik aşamada gizlilik risklerine yol açtığını belirledi: veri toplama, özellik çıkarma ve model çıkarımı süreçleri. Bu bulgular doğrultusunda, PROMPT (Propaganda Risk Online Mitigation and Privacy-preserving Tactics) adlı yeni bir çerçeve geliştirildi.
PROMPT sistemi, gizlilik kazanımı, performans kaybı ve maliyet faktörlerini dengeleyebilen matematiksel bir model sunuyor. Bu çerçeve, farklı paydaşların önceliklerine göre ayarlanabilir parametreler içeriyor ve gizlilik koruma stratejilerini otomatik olarak önerebiliyor.
Araştırmanın en çarpıcı bulgusu, yaygın kullanılan propaganda tespit sistemlerinin çoğunun GDPR ve CCPA gibi veri koruma yasalarına uyum sağlamadığı oldu. Özellikle metadata işleme ve kullanıcı düzeyinde veri toplama konularında ciddi eksiklikler tespit edildi. Bu durum, yapay zeka etiği ve kullanıcı haklarının korunması açısından acil müdahale gerektiriyor.