Yapay zeka sistemlerinin gerçekten anlayıp anlamadığını nasıl ölçebiliriz? Mevcut AI sistemleri bu konuda büyük bir ölçüm sorunu yaşıyor. Araştırmacılar, anlayışın ölçülebilir hale gelmesi için yeni bir yaklaşım geliştirdi: hiyerarşik otomatlar. Bu sistem, bilgiyi ayrık ve incelenebilir yapısal imzalar halinde organize ediyor. Klasik olasılıksal sistemler güveni kademeli olarak artırırken, neural ağlar anlayışı opak embedding uzaylarına dağıtırken, bu yeni yaklaşım anlayış oluşumunu gözlemlenebilir hale getiriyor. Sonlu durum makineleri kullanarak desenleri temsil eden ve üst düzey otomatlarla kompozisyonları ifade eden bu sistem, tek gözlemden otomata yapıları inşa edebiliyor. Benzerlik tespiti ile ilgili otomatları kümeleyerek kavram sağlamlığını ölçülebilir kılıyor ve kompozisyonel bilgiyi doğrudan incelemeye açıyor.

Araştırmacılar, büyük dil modellerinin alışık olmadığı verilerle karşılaştığında nasıl davrandığını anlamak için yeni bir çerçeve geliştirdi. Mevcut tespit yöntemlerinin aslında metin uzunluğundan etkilendiğini ve bu nedenle yanıltıcı sonuçlar verdiğini keşfettiler. Çalışma, modellerin iki farklı yoldan bilgiyi işlediğini ortaya koyuyor: embedding'ler metnin konusunu yakalarken, işleme yörüngesi modelin veriyi nasıl işlediğini gösteriyor. Bu bulgular, yapay zeka güvenliği ve modellerin güvenilirlik tespiti için önemli sonuçlar taşıyor.

Araştırmacılar, uzun süreli konuşma yapabilen yapay zeka sistemleri için yeni bir hafıza yönetim teknolojisi geliştirdi. MemRouter adlı bu sistem, hangi konuşma bölümlerinin hafızada saklanacağına karar verirken mevcut yöntemlerden çok daha verimli çalışıyor. Geleneksel sistemler her konuşma adımında büyük dil modellerini kullanarak karar verirken, MemRouter embedding tabanlı bir yönlendirme politikası kullanıyor. Bu sayede sadece 12 milyon parametre eğiterek hafıza yönetimini gerçekleştiriyor. LoCoMo test setinde yapılan karşılaştırmalarda, MemRouter geleneksel LLM tabanlı hafıza yöneticilerinden her soru kategorisinde daha başarılı sonuçlar verdi. Sistem, F1 skorunda %52,0'a karşılık %45,6 başarı elde ederken, hafıza yönetimi gecikme sürelerini de önemli ölçüde azalttı. Bu gelişme, chatbot'ların uzun konuşmalarda daha tutarlı ve verimli performans sergilemesi için önemli bir adım.

Araştırmacılar, görsel ve metin verilerini birlikte işleyen CLIP gibi yapay zeka modellerinde kritik bir güvenlik açığı keşfetti. 'Hub metinler' olarak adlandırılan bu sorun, yüksek boyutlu embedding uzaylarında ortaya çıkıyor ve tek bir metin parçasının alakasız binlerce görsel ile yanlış şekilde eşleştirilmesine neden oluyor. Bu durum, görsel arama sistemlerinden otomatik değerlendirme metriklerine kadar pek çok uygulamada ciddi sorunlar yaratabilir. MSCOCO ve Flickr30k gibi veri setlerinde yapılan deneyler, bu hub metinlerin görsel-metin benzerlik skorlarını mantıksız şekilde yükselttiğini gösterdi.

Stanford araştırmacıları, dil modellerinin belirsiz durumları nasıl işlediğini anlamak için topolojik veri analizi kullandı. Geleneksel doğruluk ölçütlerinin yakalayamadığı gizli yapıları ortaya çıkaran bu çalışma, özellikle insan değerlendiricilerin farklı görüşlere sahip olduğu durumlarda modellerin iç temsil sistemlerini inceliyor. RoBERTa-Large modelinde yapılan testler, fine-tuning sürecinin embedding uzayını modüler bölgelere ayırdığını ve belirsiz veriler karşısında modelin aşırı güvenli davrandığını gösteriyor. Bu bulgular, yapay zeka sistemlerinin karar verme mekanizmalarını daha iyi anlamamızı sağlıyor.

Metin-görsel AI modellerinin toplumsal önyargıları güçlendirmesi, etik kullanımlarında ciddi sorunlar yaratıyor. Araştırmacılar, bu soruna yenilikçi bir çözüm getirdi: Embedding Arithmetic yöntemi. Bu teknik, modelin ağırlıklarını değiştirmeden, sadece çıkarım aşamasında önyargıları azaltıyor. FLUX 1.0-Dev ve Stable Diffusion 3.5-Large modellerinde test edilen yöntem, görsel bağlamı korurken sosyal önyargıları başarıyla elimine ediyor. Sistem, uygulayıcılara adalet-tutarlılık dengesini ayarlama olanağı sunuyor. Araştırmacılar ayrıca geleneksel CLIP skorlarının sınırlarını aşmak için yeni bir değerlendirme metriği olan Kavram Tutarlılık Skoru'nu (CCS) geliştirdi.

Yapay zeka sistemlerinin metinleri anlama yetisi, farklı alanlara uyarlanırken ciddi sorunlarla karşılaşıyor. Araştırmacılar, mevcut eğitim yöntemlerinin istenmeyen yan etkiler yaratarak sistemlerin performansını düşürdüğünü keşfetti. Bu sorunu çözmek için geliştirilen REZE adlı yeni framework, yapay zeka sistemlerinin öğrenme sürecinde metin temsillerinin nasıl değiştiğini kontrol altına alıyor. Yöntem, farklı görevlerin yarattığı gürültüyü bastırırken önemli anlamsal yapıyı koruyarak, sistemlerin daha tutarlı ve güvenilir performans sergilemesini sağlıyor. Bu gelişme, doğal dil işleme alanında önemli bir adım olarak değerlendiriliyor.

Büyük dil modelleri (LLM'ler) güvenlik mekanizmaları nedeniyle zararsız talepleri bile reddeden 'aşırı ret' davranışı sergiliyor. Bu durum, duygu analizi veya çeviri gibi rutin görevlerde bile modellerin işe yaramaz hale gelmesine neden oluyor. Araştırmacılar, modellerin embedding uzayında 'takımyıldızı' benzeri örüntüler oluşturduğunu keşfetti. Her doğal dil işleme görevi, katmanlar arasında tutarlı yörüngeler takip ediyor ve ret ile ret-olmayan durumlar arasında öngörülebilir değişiklikler gösteriyor. SafeConstellations adlı yeni yaklaşım, bu yörünge örüntülerini izleyerek modelleri doğru yöne yönlendiriyor.

Araştırmacılar, işe alım süreçlerini devrimsel olarak değiştiren yeni bir yapay zeka sistemi geliştirdi. Mira-embeddings-v1 adlı bu sistem, büyük dil modellerinin ürettiği sentetik verilerle eğitilerek, iş ilanlarına en uygun adayları daha başarılı şekilde tespit edebiliyor. Geleneksel işe alım süreçlerinde HR uzmanları binlerce özgeçmiş arasından uygun adayları bulma zorluğu yaşıyordu. Yeni sistem, önce geniş bir aday havuzundan ön eleme yapıyor, ardından bu listeyi yeniden sıralayarak kalifiye adayları en üste çıkarıyor. Beş aşamalı bir veri üretim süreci kullanarak çeşitli pozitif ve negatif örnekler oluşturuyor, böylece semantik anlam uzayını çok boyutlu şekilde şekillendiriyor. Manuel veri etiketleme gerektirmeyen bu yöntem, işe alım sektöründe zaman ve maliyet tasarrufu sağlayabilir.

Araştırmacılar, yapay zekanın sürekli öğrenme sürecindeki temel sorunu çözecek yeni bir yaklaşım geliştirdi. Bilgi grafikleri olarak adlandırılan yapılarda, AI sistemleri yeni bilgileri öğrenirken eskilerini unutma eğiliminde. Yeni MF-CKGE framework'ü, varlıkların zaman içinde değişen anlamlarını ayrı embedding uzaylarında saklayarak bu sorunu çözüyor. Geleneksel yöntemler eski ve yeni bilgiyi aynı alanda harmanlayarak karışıklığa sebep oluyordu. Bu yenilik, AI'ın bağlantı tahmini yeteneklerini önemli ölçüde artırıyor.

Araştırmacılar, görev-spesifik etiketler olmadan embedding modellerini değerlendiren FLARE adlı yeni bir yöntem geliştirdi. Mevcut yöntemler yüksek boyutlu uzaylarda başarısız olurken, FLARE akış tabanlı normalleştirilmiş veri akışları kullanarak bilgi yeterliliğini doğrudan tahmin ediyor. 11 veri seti ve 8 embedding modeli üzerinde yapılan testlerde, FLARE %90 korelasyon oranına ulaşarak mevcut yöntemlerden üstün performans gösterdi. Özellikle 3.584 ve üzeri boyutlarda diğer yöntemler çökerken FLARE kararlı kaldı. Bu gelişme, özellikle etiketli verinin bulunmadığı durumlarda en uygun yapay zeka modelini seçme konusunda önemli bir ilerleme sağlıyor.