Yapay zeka alanında önemli bir gelişme kaydeden araştırmacılar, küçük dil modellerinin olasılıklı programlama alanındaki performansını dramatik şekilde artıran RefineStat adlı yeni bir çerçeve geliştirdi.
Olasılıklı programlama, belirsizliklerle dolu gerçek dünya problemlerini modellemek için güçlü bir matematiksel çerçeve sunuyor. Ancak bu alanda istatistiksel model keşfi, katı alan-spesifik kısıtlamalar altında devasa bir arama uzayında gezinmeyi gerektiriyor. Küçük dil modelleri bu tür programlar üretmeye çalıştığında, genellikle hem sözdizimi hem de anlam hataları içeren, özellikle çıkarım yapılarında kusurlu çıktılar ortaya çıkıyor.
RefineStat, olasılıklı programcıların alan uzmanlığından ve hata ayıklama stratejilerinden ilham alarak geliştirildi. Sistem, üretilen programların geçerli dağılımlar ve doğru biçimlendirilmiş parametreler içermesini sağlayan anlamsal kısıtlamaları uygular. Güvenilirlik kontrolleri başarısız olduğunda, teşhis-farkında iyileştirme yaklaşımı devreye girer ve önceki dağılım veya olabilirlik bileşenlerini yeniden örnekler.
Araştırmacılar, RefineStat'ı çoklu olasılıklı programlama kod üretim görevlerinde test etti ve küçük dil modellerinin performansında kayda değer iyileşmeler elde edildi. Bu gelişme, yapay zekanın karmaşık matematiksel modelleme görevlerindeki yetkinliğini artıran önemli bir adım olarak değerlendiriliyor.