Yapay zeka alanının en büyük zorluklarından biri olan halüsinasyon sorunu için yenilikçi bir çözüm geliştirildi. Büyük dil modellerinin gerçek olmayan veya yanlış bilgiler üretmesi olarak tanımlanan bu fenomen, AI sistemlerinin pratik kullanımını ciddi şekilde sınırlıyor.
Araştırmacıların geliştirdiği HalluSAE sistemi, bu soruna faz geçişi teorisi perspektifinden yaklaşıyor. Yöntem, yapay zekanın halüsinasyon yaşamasını, modelin gizli dinamiklerindeki kritik bir kayma olarak modelliyor. Bu yaklaşım, metin üretim sürecini potansiyel enerji manzarası içinde gezinen bir yörünge gibi ele alıyor.
Sistem üç aşamadan oluşuyor: İlk olarak, seyrek oto-kodlayıcılar ve geometrik potansiyel enerji ölçütü kullanılarak kritik geçiş bölgeleri belirleniyor. İkinci aşamada, karşıtlı logit atfı yöntemiyle halüsinasyonla ilgili seyrek özellikler tespit ediliyor. Son aşamada ise nedensel analiz yapılıyor.
Bu yöntemin en önemli özelliği, halüsinasyonun dinamik doğasını ve altta yatan mekanizmalarını dikkate alması. Mevcut tespit yöntemlerinin çoğunun gözden kaçırdığı bu yaklaşım, faktüel hataları belirli yüksek enerjili seyrek özelliklere atfediyor.
HalluSAE'nin geliştirilmesi, yapay zeka sistemlerinin güvenilirliğini artırmak için önemli bir adım olarak görülüyor ve gelecekte daha güvenilir AI uygulamalarının yolunu açabilir.