Dijital iletişimin yaygınlaşmasıyla birlikte, sohbet platformlarında zararlı içeriklerin tespiti kritik bir sorun haline geldi. Mevcut yapay zeka sistemleri genellikle her mesajı ayrı ayrı değerlendiriyor ve sadece kendi dahili bilgilerine dayanarak karar veriyor. Bu yaklaşım, sosyal bağlamın önemli olduğu durumlarda tutarsız sonuçlar doğurabiliyor.
Araştırmacıların geliştirdiği RoTRAG sistemi, bu sorunlara yenilikçi bir çözüm sunuyor. Sistem, 'Pratik Kurallar' (Rules of Thumb) adı verilen insan yazımı ahlaki normları bir veri tabanında saklıyor. Her yeni mesaj geldiğinde, sistem bu veri tabanından konuyla ilgili kuralları çekiyor ve bunları karar verme sürecinde rehber olarak kullanıyor.
Sistemin en önemli özelliklerinden biri, konuşmanın bütününü değerlendirmesi. Bu sayede, sadece son mesaja bakarak değil, diyalogun gelişim sürecini de analiz ederek daha doğru tespitler yapabiliyor. Ayrıca, her yeni mesaj için yeniden analiz yapmaya gerek olmadığını anlayan akıllı bir yönlendirme sistemi sayesinde daha verimli çalışıyor.
Bu gelişme, sosyal medya platformları ve mesajlaşma uygulamaları için önemli bir adım. Daha şeffaf ve tutarlı içerik moderasyonu, dijital ortamların güvenliğini artırabilir.