Konuşan yapay zeka sistemlerinin, kullanıcıların aksan ve ses özelliklerine göre önyargılı davranış sergilediği yeni bir araştırmayla ortaya çıktı. Ses verilerini doğrudan işleyen bu AI sistemler, farklı aksan ve cinsiyet algısına sahip kullanıcılara eşit olmayan hizmet sunuyor.
Çalışmada araştırmacılar, önyargıyı iki farklı kategoride ele aldı: hizmet kalitesi farklılıkları ve tutarlı yanıtlardaki içerik düzeyindeki önyargı. İlk kategori, konuyla alakasız veya düşük çaba gerektiren yanıtları kapsarken, ikincisi mantıklı görünen ama önyargılı içerik barındıran cevapları inceliyor.
Araştırma ekibi yenilikçi bir değerlendirme yaklaşımı geliştirdi. Altı farklı aksan ve iki cinsiyet sunumuyla kontrollü testler yapmanın yanı sıra, ses dönüştürme teknolojisiyle kullanıcıların aynı içeriği farklı vokal kimlikler üzerinden deneyimlemesini sağladı.
44 katılımcıyla gerçekleştirilen iki ayrı çalışmada dikkat çekici sonuçlar elde edildi. Ses dönüştürme teknolojisinin, zararsız yanıtlara karşı kullanıcıların güven ve kabul düzeyini artırdığı, ayrıca perspektif alma becerilerini teşvik ettiği gözlemlendi.
Bu bulgular, sesli AI sistemlerinin tasarımında adalet ve kapsayıcılık ilkelerinin daha fazla dikkate alınması gerektiğini gösteriyor.