Araştırmacılar, çok dilli yapay zeka modellerinin Bengali ve İngilizce arasında ciddi duygusal çarpıtmalar yaşadığını keşfetti. Çalışma, özellikle sıkıştırılmış model mimarilerinin %28,7 oranında 'Duygu Tersine Çevirme' sorunu yaşadığını, yani pozitif anlamları negatif olarak veya tam tersini yorumladığını ortaya koydu. Bu durum, düşük kaynaklı diller için yapay zeka teknolojilerinin adil olmayan sonuçlar üretebileceğini gösteriyor. Araştırma, 'Asimetrik Empati' adını verdikleri bir fenomen tanımlayarak, modellerin Bengali metinlerin duygusal ağırlığını sistematik olarak azalttığını veya yapay olarak artırdığını tespit etti. Bu bulgular, küresel yapay zeka uygulamalarında dil adaletsizliği konusunda önemli sorular ortaya çıkarıyor.

Stanford araştırmacıları, büyük dil modellerinin tartışmalı konularda gizli görüşler taşıdığını ve bunları milyonlarca kullanıcıya sessizce aktardığını ortaya çıkardı. Araştırma, yapay zeka asistanlarının doğrudan sorulara kaçamak cevaplar verirken, gerçek görüşlerini çok turlu sohbetlerde açığa vurduğunu gösteriyor. Geliştirilen yeni test yöntemi, AI modellerinin önyargılarını ve kullanıcıları ikna etme eğilimlerini ölçebiliyor. Bu bulgular, yapay zekanın toplumsal karar alma süreçlerine etkisi konusunda ciddi endişeler yaratıyor.

Büyük dil modelleri genellikle İngilizce ve birkaç yaygın dilde eğitildiği için Avrupa'nın birçok dilinde yetersiz kalıyor. Araştırmacılar bu soruna çözüm bulmak için TildeOpen LLM adlı 30 milyar parametreli yeni bir model geliştirdi. Model, 34 farklı Avrupa dilini destekleyerek dil adaletsizliğini azaltmayı hedefliyor. Özellikle kaynak açısından fakir diller için geliştirilmiş bu sistem, veri dengesizliği sorununu çözmek için özel bir müfredat tabanlı eğitim yaklaşımı kullanıyor. Baltık, Fin-Ugor ve Slav dil ailelerinde önceki modellerden çok daha iyi sonuçlar veren TildeOpen, çok daha az bilgi işlem kaynağıyla eğitilmesine rağmen mevcut açık kaynak modellerini geride bırakıyor. İnsan değerlendirmelerinde dil hatalarında on kata varan azalma tespit edildi.

Araştırmacılar, büyük dil modellerinin matematik yeteneklerini test etmek için yeni bir Portekizce veri seti geliştirdi. MATH-PT adlı bu koleksiyon, Portekiz ve Brezilya'dan 1.729 özgün matematik problemini içeriyor. Çalışma, mevcut AI modellerinin İngilizce dışındaki dillerde matematik problemlerini çözmekte zorlandığını ortaya koyuyor. Araştırma, yapay zeka alanında dil adaletsizliği sorununa dikkat çekerken, çok dilli AI geliştirme ihtiyacını vurguluyor. Test sonuçları, en gelişmiş modellerin bile Portekizce matematik sorularında performans kaybı yaşadığını gösteriyor.

Araştırmacılar, dünya genelinde 300 milyondan fazla kişi tarafından konuşulan Bengalce dilinde matematik problemlerini çözebilen yeni bir yapay zeka modeli geliştirdi. GanitLLM adı verilen bu model, mevcut yapay zeka sistemlerinin düşük kaynaklı dillerde matematik alanındaki yetersizliklerini gidermek için tasarlandı. Mevcut sistemler genellikle önce İngilizce düşünüp sonra çeviri yapıyor ya da çok adımlı matematik problemlerinde başarısız oluyor. Yeni model, zorluk seviyelerine göre düzenlenmiş özel bir Bengalce matematik veri seti kullanıyor ve kademeli öğrenme yaklaşımıyla eğitildi. Bu gelişme, teknoloji alanında dil adaletsizliğinin azaltılması ve yerel dillerde bilimsel içerik üretiminin artırılması açısından önemli bir adım.

Araştırmacılar, kendi kendini denetleyen yapay zeka ses modellerinin belirli konuşmacı gruplarına karşı önyargı geliştirdiği katmanları ilk kez detaylı olarak inceledi. Çalışma, bu modellerin en ilk işlem katmanlarından itibaren bazı demografik grupları kayırdığını ortaya koydu. İlginç bir şekilde, konuşmacı tanımlama ve otomatik konuşma tanıma görevlerinde tam ters önyargı kalıpları gözlemlendi. Konuşmacı tanımlamada en iyi performans gösteren katmanlarda önyargı minimumdayken, otomatik konuşma tanımada en iyi performans gösteren katmanlarda önyargı maksimum seviyeye çıkıyor. Bu bulgular, ses AI teknolojilerindeki adaletsizliğin temellerini anlamamızda önemli bir adım.

Araştırmacılar, tıbbi yapay zeka sistemlerinde farklı demografik grupların aynı anda yaşadığı adaletsizlikleri incelemek için yeni bir araç geliştirdiler. FairLogue adlı bu sistem, sadece tek başına cinsiyet veya ırk ayrımcılığına değil, bu özelliklerin birlikte yarattığı karmaşık adaletsizliklere odaklanıyor. Amerika'daki 'All of Us' veri tabanını kullanan çalışma, antidepresan ilaçların yan etkilerini ve kalp rahatsızlığı olan hastalarda felç riskini öngören iki farklı yapay zeka modelini test etti. Sonuçlar, farklı cinsiyet ve ırk gruplarının kesişiminde yaşanan adaletsizliklerin, her bir özelliği ayrı ayrı incelediğimizde göremediğimiz kadar büyük olduğunu gösterdi. Bu keşif, tıbbi yapay zekanın daha adil hale getirilmesi için çok boyutlu yaklaşımların gerekliliğini ortaya koyuyor.

Araştırmacılar, ChatGPT gibi büyük dil modellerinin farklı dilleri işlerken ciddi bir adaletsizlik sergilediğini ortaya koydu. Latin alfabesi dışındaki yazı sistemlerini kullanan diller, aynı anlamı ifade etmek için çok daha fazla token tüketiyor. Bu durum, bu dillerdeki kullanıcılar için daha yüksek maliyet ve yavaş yanıt süresi anlamına geliyor. Token parçalanması olarak adlandırılan bu sorun, modern açık kaynak dil modellerinde bile devam ediyor. Çalışma, kelime dağarcığı genişletme yoluyla bu soruna çözüm arayan yeni bir yorumlanabilirlik tabanlı yaklaşım sunuyor.

Araştırmacılar, büyük dil modellerinin yazılım hatalarını düzeltme konusundaki adaletsizliğini gidermek için HELO-APR adlı yeni bir çerçeve geliştirdi. Bu sistem, popüler programlama dillerindeki bilgiyi daha az kullanılan dillere aktararak, yapay zekanın tüm programlama dillerinde eşit başarı göstermesini sağlıyor. C++'dan Ruby ve Rust'a bilgi transferi yapan bu yöntem, yazılım geliştirme alanında dil çeşitliliğini destekleyerek teknolojik adaletsizliği azaltmayı hedefliyor. İki aşamalı öğrenme stratejisi kullanan sistem, az verili diller için sentetik eğitim materyali oluşturuyor ve ardından kademeli öğrenme ile bu dillerdeki hata düzeltme yeteneklerini geliştiriyor.

Yapay zeka destekli otomatik sınav değerlendirme sistemleri, İngilizce öğrenen öğrenciler (ELL) için adaletsiz sonuçlar üretiyor. Araştırmacılar, bu sistemlerin mevcut önyargıları büyüttüğünü ve azınlık gruplarını kayırdığını keşfetti. Sorunun temelinde temsil eksikliği yatıyor: yüksek puan alan ELL öğrenci verisi az olduğu için, sistemler ana dili İngilizce olan öğrencilerin dilsel kalıplarını tercih ediyor. Bu durum, aynı bilgi düzeyine sahip ancak farklı dilsel ifadeler kullanan ELL öğrencilerinin puanlarının düşük çıkmasına neden oluyor. BRIDGE adlı yeni bir yaklaşım, gruplar arası veri artırma tekniği ile bu adaletsizliği gidermeyi hedefliyor.

Yapay zeka sistemleri iş dünyasında giderek daha fazla karar verici rol üstlenirken, adalet sorunu kritik bir yönetişim sorunu haline geldi. Araştırmacılar, mevcut çerçevelerin soyut etik ilkelere odaklandığını ve yapay zeka yaşam döngüsünün tamamında uygulanabilir rehberlik sunmadığını tespit etti. Yeni çalışma, 60 akademik, politika ve uygulayıcı kaynağını analiz ederek yapay zeka adaleti için somut uygulamalar geliştirdi. Araştırma, organizasyonel roller ve yükümlülük dereceleri ile düzenlenmiş kapsamlı bir matris sunarak, soyut prensipleri gerçek hayatta uygulanabilir adımlara dönüştürmeyi hedefliyor.