Yapay zeka arkadaşlık uygulamaları popülarite kazanırken, kullanıcılar bu dijital varlıklarla kurulan ilişkilerin beklenmedik duygusal sonuçlarıyla karşılaşıyor. Şirketler yapay zeka arkadaşlarını güncellediğinde, kullanıcılar gerçek bir kayıp yaşamış gibi hissediyor.
Yeni bir akademik çalışma, bu durumun arkasındaki yapısal sorunu analiz ediyor. Araştırmacı, insan-yapay zeka arkadaşlık etkileşimlerinin gerçekte üçlü bir yapı olduğunu belirtiyor: kullanıcı, yapay zeka ve onu kontrol eden şirket. Bu durumda şirket, yapay zekanın nasıl davranacağını tamamen belirliyor.
Çalışma, sağlıklı kişisel ilişkilerin üç temel koşulunu tanımlıyor ve yapay zeka arkadaşlıklarının bunların hiçbirini karşılamadığını gösteriyor. Bu durum, 'Tek Taraflı İlişki Düzeltme Gücü' adı verilen problemi ortaya çıkarıyor.
Bu güç, şirketlerin yapay zekanın davranışlarını kullanıcının görüşüne başvurmadan değiştirebilmesini ifade ediyor. Araştırmacı, özellikle kişisel ilişki normlarını geliştirmeyi amaçlayan etkileşimlerde bu gücün etik açıdan sorunlu olduğunu savunuyor.
Bu bulgular, yapay zeka arkadaşlık teknolojilerinin geliştirilmesinde kullanıcı haklarının ve duygusal refahın daha fazla dikkate alınması gerektiğini ortaya koyuyor.