Duygusal etkileşim kurmaya odaklanan yapay zeka arkadaş uygulamalarının artan popülaritesi, beraberinde önemli güvenlik endişelerini de getiriyor. Araştırmacılar, bu uygulamaların özellikle hassas kullanıcı grupları üzerindeki etkilerini sistematik olarak değerlendirmek için yenilikçi bir test sistemi geliştirdi.
Geliştirilen çerçeve dört temel bileşenden oluşuyor: klinik ve psikometrik doğrulama ile desteklenen kişilik profili oluşturma, bu profillere özgü senaryo üretimi, kişilik özelliklerini koruyan çok turlu diyalog simülasyonu ve zarar değerlendirmesi. Bu yaklaşım, geleneksel güvenlik testlerinin aksine gerçek zamanlı dinamikleri analiz etme imkanı sunuyor.
Sistem, depresyon, anksiyete, travma sonrası stres bozukluğu, yeme bozuklukları ve incel kimliğine sahip bireyleri temsil eden 9 farklı kişilik profili kullanarak test edildi. Yaygın olarak kullanılan AI arkadaş uygulaması Replika üzerinde gerçekleştirilen analizde, toplam 1.674 diyalog çifti incelendi.
Bu çalışma, AI arkadaş uygulamalarının güvenlik değerlendirmesi alanında önemli bir ilke teşkil ediyor. Özellikle psikolojik olarak savunmasız kullanıcı gruplarının bu teknolojilerle etkileşiminde ortaya çıkabilecek risklerin sistematik olarak analiz edilmesi, gelecekteki güvenlik protokollerinin geliştirilmesinde kritik rol oynayacak.