Yapay zeka alanında önemli bir ilerleme kaydedildi. Otonom LLM ajanlarının uzun süreli etkileşimlerde başarılı olabilmesi için geçmiş deneyimlerini etkili şekilde saklayabilmesi gerekiyor. Ancak mevcut hafıza sistemleri, metin bağlamı bütçesi sınırlamasıyla karşı karşıya kalıyor.
Araştırmacıların geliştirdiği OCR-Memory (Optik Bağlam Geri Çağırma Hafızası), bu soruna yenilikçi bir çözüm sunuyor. Sistem, yapay zeka ajanlarının deneyimlerini yüksek yoğunluklu görsel temsiller halinde saklamayı mümkün kılıyor.
Geleneksel yaklaşımlarda ham verilerin saklanması token açısından çok maliyetli oluyor. Özetleme ve sadece metin tabanlı geri çağırma yöntemleri ise token tasarrufu sağlarken bilgi kaybına ve parçalı kanıtlara yol açıyor. OCR-Memory bu ikilemden kurtulmanın yolunu buluyor.
Sistem, tarihsel yörüngeleri benzersiz görsel tanımlayıcılarla açıklamalı görüntülere dönüştürüyor. Saklanan deneyimleri 'bul-ve-çevir' paradigmasıyla geri çağırıyor ve ilgili bölgeleri seçerek çalışıyor.
Bu yaklaşım, yapay zeka ajanlarının keyfi uzunluktaki geçmişleri minimal prompt maliyetiyle saklayabilmesini sağlıyor. Böylece ajanlar, uzun vadeli görevlerde daha etkili performans gösterebilecek.