Bilim insanları ChatGPT gibi yapay zeka modellerinin ahlaki değerlendirmelerini test etti ve şaşırtıcı sonuçlara ulaştı. Araştırmaya göre AI sistemleri, küresel değerleri doğru anlayamıyor ve belirgin kültürel önyargılar sergiliyor. Yapay zeka modelleri, Batılı ülkelerin ahlaki standartlarını olduğundan yüksek değerlendirirken, Batı dışı kültürlerin ahlaki değerlerini sistematik olarak küçümsüyor. Bu bulgular, AI sistemlerinin insan benzeri kültürel kalıpyargıları benimsediğini ve objektif ahlaki değerlendirmeler yapamadığını gösteriyor. Araştırma, yapay zekanın karar verme süreçlerindeki önyargıların farkına varılması açısından kritik önem taşıyor.

PsyPost 0

Teknoloji & Yapay Zeka

21 Apr

Yapay Zeka Modelleri Ahlaki Saldırılarla Test Edildi

Araştırmacılar, büyük dil modellerinin ahlaki değerlere karşı direncini test etmek için yeni bir yaklaşım geliştirdi. Çalışmada, AI sistemlerinin farklı ahlaki görüşlerle başa çıkabilme yeteneği 'jailbreak' saldırıları kullanılarak incelendi. 10.3 bin örnek içeren özel bir ahlak veri seti oluşturan ekip, dört farklı düşmanca saldırı tekniği geliştirdi. Bu saldırılar, yapay zeka modellerinin ahlaki konulardaki kararlarını manipüle etmeyi hedefliyor. Araştırma, AI'nın çok değerli toplumsal yapılarla uyumlu çalışması gereken 'çoğulcu uyum' kavramına odaklanıyor. Bulgular, mevcut AI güvenlik sistemlerinin ahlaki manipülasyonlara karşı ne kadar dayanıklı olduğunu gösteriyor ve gelecekteki AI geliştirmelerinde dikkate alınması gereken önemli güvenlik açıklarını ortaya çıkarıyor.

arXiv (CS + AI) 0