Yapay zeka alanında makine öğrenmesinin tersine çevrilmesi konusunda önemli bir gelişme yaşandı. Araştırmacılar, büyük dil modellerinin hassas bilgileri unutması için PALU (Önek-Farkında Yerelleştirilmiş Unutma) adlı yenilikçi bir sistem geliştirdi.
Geleneksel unutma yöntemleri, bir yanıttaki tüm kelimeleri aynı şekilde ele alır ve belirsizliği tüm kelime dağarcığına yaygınlaştırır. Bu yaklaşım, gereksiz performans düşüşüne yol açar ve optimizasyonu içerikle alakasız alanlara kadar genişletir.
PALU sistemi ise tamamen farklı bir strateji benimsiyor. Yerel entropi maksimizasyonu hedefini hem zaman hem de kelime boyutlarında uygulayarak iki kritik keşif yapıldı: İlk olarak, sadece hassas önekleri bastırmanın nedensel üretim bağlantısını kesmek için yeterli olduğu; ikinci olarak ise yalnızca en önemli kelime gruplarını düzleştirmenin kritik alt uzayda belirsizliği maksimize etmek için yeterli olduğu ortaya çıktı.
Bu bulgular sayesinde PALU, tam kelime dağarcığı ve parametre uzayında gereksiz optimizasyonu azaltırken, genel modelin işlevselliğine minimum zarar veriyor. Sistem, yapay zekanın etik kullanımı ve hassas verilerin güvenliği açısından önemli bir ilerleme sunuyor.