Araştırmacılar, metin-görsel üretim sistemlerinde kullanılan ödül modellerinin beklenmedik demografik önyargılar içerdiğini keşfetti. Bu modeller kalite değerlendirmesi için tasarlanmış olmasına rağmen, belirli demografik grupları kayıran kararlar aldığı ortaya çıktı. Stanford ve diğer üniversitelerden araştırmacıların yürüttüğü kapsamlı çalışma, yapay zeka sistemlerinin insan tercihlerini öğrenme sürecinde istenmeyen önyargıları da içselleştirdiğini gösteriyor. Bu durum, AI-generated içeriklerin adilliğini ve çeşitliliğini olumsuz etkileyebilir.

Büyük dil modelleriyle çalışan otonom web ajanları, karmaşık tarayıcı görevlerini tamamlama konusunda umut vadediyor ancak uzun süreli iş akışlarında zorlanıyor. Araştırmacılar, bu sorunu çözmek için WebXSkill adlı yeni bir framework geliştirdi. Bu sistem, hem doğrudan çalıştırılabilen hem de ajan tarafından anlaşılabilen 'yürütülebilir beceriler' kullanıyor. Mevcut sistemlerdeki temel sorun, metin tabanlı becerilerin anlaşılır olmasına rağmen doğrudan çalıştırılamaması, kod tabanlı becerilerin ise çalıştırılabilir olmasına karşın ajan için anlaşılır olmaması. WebXSkill, parametreli eylem programlarını adım adım doğal dil rehberliğiyle birleştirerek bu açığı kapatıyor ve ajanlara hem hata kurtarma hem de adaptasyon imkanı sunuyor.

Çok modlu büyük dil modelleri (MLLM'ler), görüntülerdeki nesnelerin 2D yönelimini belirleme konusunda ciddi zorluklar yaşıyor. Yeni bir araştırma, bu sorunun kaynağını araştırarak görsel kodlayıcıların rolünü inceliyor. CLIP ve SigLIP gibi yaygın kullanılan kodlayıcıların, geometrik akıl yürütme yerine görüntü-metin anlamsal hizalama için eğitilmiş olmasının bu başarısızlığın temel nedeni olabileceği hipotezi test ediliyor. Araştırmacılar, LLaVA OneVision ve Qwen2.5-VL gibi modellerden elde edilen kodlayıcı temsillerinin rotasyon bilgisini koruyup korumadığını ölçmek için kontrollü deneysel protokoller tasarlıyor.

Araştırmacılar, yapay zeka sistemlerinin metin sınıflandırmasında belirsizliklerini tahmin edebilmesi için yeni bir yöntem geliştirdi. HolUE adlı bu yaklaşım, sistemin ne zaman hata yapabileceğini önceden tahmin ederek, bilinmeyen durumlarla karşılaştığında 'bilmiyorum' diyebilmesini sağlıyor. Yöntem, iki temel belirsizlik kaynağını ele alıyor: kullanıcının belirsiz sorularından kaynaklanan 'metin belirsizliği' ve veri dağılımındaki belirsizliklerden kaynaklanan 'galeri belirsizliği'. Test sonuçları oldukça etkileyici - farklı veri setlerinde mevcut yöntemlere göre %40 ile %365 arasında iyileşme sağlandı. Bu gelişme, özellikle güvenilir yapay zeka sistemleri için kritik önem taşıyor.