Günümüz yapay zeka sistemlerinin temelini oluşturan yoğun metin arama teknolojisi, beklenmedik bir zayıflık sergiliyor. Metinleri matematiksel vektörlere dönüştüren bu yöntem, verimli arama imkanı sunsa da anlamsal hassasiyette ciddi eksiklikler yaşıyor.
Araştırmacılar, sistemin 'Bu iyi bir film' ile 'Bu iyi bir film değil' gibi zıt anlamlı cümleleri yüksek benzerlik puanıyla eşleştirdiğini keşfetti. Problem, metinlerin tek boyutlu matematiksel temsillere indirgenmesinde yatıyor. Bu süreçte olumsuzluk eki, rol değişimi gibi kritik yapısal farklılıklar kaybolabiliyor.
Dört farklı AI modelinde gerçekleştirilen deneyler çarpıcı sonuçlar ortaya çıkardı. Yapısal hassasiyet için özel eğitim alan küçük modeller %8-9 oranında, orta ölçekli modeller ise %40'a varan performans kaybı yaşadı. Bu durum, hassaslık ile genel başarı arasında temel bir çelişki olduğunu gösteriyor.
Çözüm arayışında araştırmacılar, kelime-kelime benzerlik haritaları kullanan doğrulayıcı sistemleri test etti. Küçük Transformer tabanlı modeller, yapısal farklılıkları ayırt etmede daha başarılı sonuçlar verdi. Bu bulgular, gelecekteki AI sistemlerinin tasarımında anlamsal hassasiyetin önemini vurguluyor.