Bilim insanları ChatGPT gibi yapay zeka modellerinin ahlaki değerlendirmelerini test etti ve şaşırtıcı sonuçlara ulaştı. Araştırmaya göre AI sistemleri, küresel değerleri doğru anlayamıyor ve belirgin kültürel önyargılar sergiliyor. Yapay zeka modelleri, Batılı ülkelerin ahlaki standartlarını olduğundan yüksek değerlendirirken, Batı dışı kültürlerin ahlaki değerlerini sistematik olarak küçümsüyor. Bu bulgular, AI sistemlerinin insan benzeri kültürel kalıpyargıları benimsediğini ve objektif ahlaki değerlendirmeler yapamadığını gösteriyor. Araştırma, yapay zekanın karar verme süreçlerindeki önyargıların farkına varılması açısından kritik önem taşıyor.

Araştırmacılar, kontrol sistemlerinde karşılaşılan ahlaki tehlike problemini matematiksel olarak modellemeyi başardı. Çalışma, bir aracının iki farklı kontrol stratejisi arasından seçim yaparken nasıl teşvik edileceğini ele alıyor. Doğrusal zaman-değişmez sistemler kullanılarak geliştirilen model, bilgi asimetrisi durumlarında optimal ödeme şemalarının tasarlanmasını sağlıyor. Bu yaklaşım, özellikle otomatik sistemlerde verimlilik ve çaba gözlemlenemeyen durumlarda kritik öneme sahip. Araştırma, kontrol teorisi ile ekonomi alanlarını birleştirerek, yapay zeka ve otomasyon sistemlerinde güvenilir performans sağlama konusunda yeni perspektifler sunuyor.

Manipülatif ve düşmanca davranışlar sergileyen insanların gerçekten ahlaki pusulaları yok mu? Son araştırmalar bu yaygın inancı sarsan bulgular ortaya koyuyor. Çalışma, antagonistik kişilik özelliklerine sahip bireylerin ahlaksız davranışları daha hoşgörüyle karşılamalarına rağmen, bu tür davranışlar sergileyen kişileri fiziksel olarak çekici bulmadıklarını gösteriyor. Bu durum, bu kişilerin ahlaksızlığa gösterdikleri hoşgörünün aslında psikolojik bir savunma mekanizması olduğuna işaret ediyor. Bulgular, insan psikolojisinin karmaşık doğasını ve ahlaki yargılarımızın bilinçli ve bilinçsiz katmanlarını anlamamızda önemli ipuçları sunuyor.

Bilgisayar bilimciler, yapay zeka sistemlerindeki ahlaki karar verme mekanizmalarının ciddi bir açığını keşfetti. Carmo ve Jones'un geliştirdiği koşullu yükümlülük sistemlerini inceleyen araştırmacılar, sistemin 'deontik patlama' denilen bir soruna yol açtığını buldu. Bu durumda, bir öğrencinin sınavdan en yüksek notu alamadığı durumda, sistem herhangi bir geçer notu kabul edilebilir olarak değerlendiriyor. Bu bulgu, AI sistemlerinde etik kuralların nasıl programlanması gerektiği konusunda önemli sorular ortaya koyuyor.

Araştırmacılar, yapay zeka sistemlerinin sohbet ortamlarında zararlı içerikleri daha doğru tespit edebilmesi için yeni bir yöntem geliştirdi. RoTRAG adı verilen bu sistem, insan kaynaklı ahlaki kuralları kullanarak daha tutarlı ve açıklanabilir kararlar verebiliyor. Geleneksel yöntemlerden farklı olarak, her mesajı ayrı ayrı değerlendirmek yerine konuşmanın tamamını analiz ediyor ve dış kaynaklardan aldığı ahlaki rehberlikle daha güvenilir sonuçlar üretiyor.

Stanford Üniversitesi araştırmacıları, büyük dil modellerinin (LLM) farklı kişiliklere bürünseler bile ahlaki değer yargılarında tutarlı kaldığını keşfetti. Araştırma, bu modellerin zarar vermeme ve adalet gibi temel ahlaki boyutlarda sabit bir yönelim sergilediğini ortaya koydu. Binlerce farklı persona ile yapılan deneyler, modellerin beklenenin aksine çeşitli görüşler üretmek yerine içsel önyargılarını koruduğunu gösterdi. Bu 'ahlaki atalet' olarak adlandırılan fenomen, yapay zekanın karar verme süreçlerinde öngörülenden daha az esneklik olduğuna işaret ediyor. Bulgular, AI sistemlerinin toplumsal uygulamalarda kullanılmadan önce bu önyargıların dikkatlice incelenmesi gerektiğini vurguluyor.

Araştırmacılar, 2024 ABD başkanlık seçimleri çevresinde X (Twitter) üzerindeki siyasi tartışmaları analiz ederek, hangi konularda ve ideolojilerde daha fazla zararlı içerik üretildiğini ortaya çıkardı. Çalışma, yapay zeka destekli büyük ölçekli analiz yöntemleriyle beş haftalık dönemde milyonlarca gönderiyi inceledi. Bulgular, kimlik odaklı konuların en yüksek toksisite seviyelerine sahip olduğunu gösterirken, duygusal ton ve ahlaki çerçevelemenin zararlı içerik üretimindeki rolünü de aydınlattı. Bu araştırma, dijital demokraside çevrimiçi söylemin nasıl şekillendiğini anlamak için önemli veriler sunuyor.

Araştırmacılar, farklı dinlerin kutsal metinleriyle eğitilmiş yapay zeka modellerinin ahlaki karar verme süreçlerinde nasıl farklılık gösterdiğini inceledi. Meta-Llama-3.1-8B modeli temel alınarak, Hristiyanlık, İslam, Yahudilik, Hinduizm ve Budizm metinleriyle özelleştirilmiş beş ayrı model oluşturuldu. Bu modeller 17 farklı etik ikilemle test edilerek, her birinin kendine özgü ahlaki yaklaşımlar sergilediği gözlemlendi. Çalışma, yapay zekanın dinsel öğretilerden nasıl etkilendiğini ve bu durumun teknolojik uygulamalarda hangi sonuçları doğurabileceğini anlamamız açısından önemli bulgular sunuyor.

Araştırmacılar, büyük dil modellerinin ahlaki değerlere karşı direncini test etmek için yeni bir yaklaşım geliştirdi. Çalışmada, AI sistemlerinin farklı ahlaki görüşlerle başa çıkabilme yeteneği 'jailbreak' saldırıları kullanılarak incelendi. 10.3 bin örnek içeren özel bir ahlak veri seti oluşturan ekip, dört farklı düşmanca saldırı tekniği geliştirdi. Bu saldırılar, yapay zeka modellerinin ahlaki konulardaki kararlarını manipüle etmeyi hedefliyor. Araştırma, AI'nın çok değerli toplumsal yapılarla uyumlu çalışması gereken 'çoğulcu uyum' kavramına odaklanıyor. Bulgular, mevcut AI güvenlik sistemlerinin ahlaki manipülasyonlara karşı ne kadar dayanıklı olduğunu gösteriyor ve gelecekteki AI geliştirmelerinde dikkate alınması gereken önemli güvenlik açıklarını ortaya çıkarıyor.

Yeni bir ekonomi araştırması, şirketlerin neden zaman içinde kişiselleştirilmiş iletişimden standartlaştırılmış iletişime geçtiğini açıklıyor. Çalışma, uzun vadeli çalışanlarla kısa vadeli müşteriler arasındaki etkileşimi yöneten firmaların, optimal teşvik sistemi oluşturmak için 'dinamik korelasyon' adı verilen bir yöntemi kullandığını gösteriyor. Bu yaklaşım, özel bilgi paylaşımından başlayarak kademeli olarak herkese açık standart iletişime geçişi içeriyor. Araştırma, bu geçişin rastgele olmadığını, aksine çalışanların motivasyonunu artırmak ve ahlaki tehlike sorununu çözmek için bilinçli olarak tasarlandığını ortaya koyuyor. Sistem, çalışan ile müşteriler arasında bir çıkar çatışması yaratsa da, çalışanın yeterince sabırlı olması durumunda tüm taraflar için faydalı sonuçlar doğurabiliyor.

Dünya çapında 285 milyondan fazla kişi tarafından konuşulan Bengal dili için özel bir etik değerlendirme sistemi geliştirildi. BengaliMoralBench adlı bu yeni test, büyük dil modellerinin yerel kültürel değerlere ne kadar uygun davrandığını ölçmek için tasarlandı. Araştırmacılar, mevcut etik testlerin çoğunlukla Batı merkezli yaklaşımları yansıttığını ve Güney Asya kültürlerinin özgün değer sistemlerini göz ardı ettiğini belirtiyor. Yeni sistem, günlük aktivitelerden aile ilişkilerine, dini uygulamalardan çocuk yetiştirme anlayışına kadar 50 farklı konu alanını kapsıyor ve her senaryo üç farklı etik bakış açısından değerlendiriliyor.