Yapay zeka ajanları organizasyonel kurallara uygun çalışırken sıklıkla belirsiz veya eksik politikalarla karşılaşıyor. Bu durum, ajanların gerçek gereksinimleri yanlış yorumlamasına ve istenmeyen davranışlar sergilemesine neden olabiliyor.
Araştırmacılar bu soruna çözüm olarak PolicyBank adında yenilikçi bir hafıza mekanizması geliştirdi. Bu sistem, yapay zeka ajanlarının etkileşim ve düzeltici geri bildirimler yoluyla politika anlayışlarını sürekli geliştirebilmelerini sağlıyor.
PolicyBank'ın ayırt edici özelliği, yapılandırılmış araç düzeyinde politika içgörülerini koruyarak bunları iteratif olarak iyileştirmesi. Geleneksel hafıza mekanizmaları politikayı değişmez gerçek olarak kabul ederek 'kurallara uygun ama yanlış' davranışları pekiştirirken, yeni sistem politika yorumunu dinamik olarak refine ediyor.
Araştırma ekibi, sistemin etkinliğini test etmek için popüler bir araç çağırma ölçütünü genişleterek sistematik bir test ortamı oluşturdu. Bu ortam, kontrollü politika boşlukları içererek uyumluluk başarısızlıklarını yürütme hatalarından ayırt edebiliyor.
Bu gelişme, yapay zeka ajanlarının organizasyonel ortamlarda daha güvenilir ve doğru karar verebilmesi açısından önemli bir adım teşkil ediyor.