Yapay zeka modellerinin mobil cihazlar ve kenar sunucular arasında dağıtık olarak çalışması, hesaplama kaynaklarının daha verimli kullanılmasını sağlıyor. Ancak bu sistemlerde yaşanan en büyük sorun, kablosuz bağlantı kalitesindeki değişimlerin performansı olumsuz etkilemesiydi.
Araştırmacılar bu soruna çözüm olarak WISV (Wireless-Informed Semantic Verification) adında yeni bir sistem geliştirdi. Bu sistem, geleneksel kelime düzeyindeki doğrulama stratejilerinin yerine, anlamsal değerlendirme yapabilen akıllı bir yaklaşım benimsiyor.
WISV'nin en dikkat çekici özelliği, kablosuz kanal durumu bilgilerini yapay zeka modelinin karar verme sürecine entegre etmesi. Sistem, kenar sunucudaki hedef AI modeline hafif bir karar başlığı ekleyerek, yüksek boyutlu gizli temsilleri anlık kanal durum bilgileriyle sentezliyor. Bu sayede spekülatif tokenları daha dinamik bir şekilde değerlendirebiliyor.
Geleneksel sistemlerde katı token eşleştirmesi nedeniyle aşırı reddedilmeler yaşanıyor ve bu durum kabul edilen dizi uzunluğunu önemli ölçüde azaltıyordu. WISV ise bu sorunu çözerek, değişken kablosuz koşullar altında daha az etkileşim turu ile daha iyi performans sağlıyor.
Bu gelişme, edge computing ve gelecek nesil kablosuz ağların yaygınlaşmasıyla birlikte AI uygulamalarının daha verimli çalışması için kritik önem taşıyor.