Yapay zeka ajanlarının laboratuvar ortamından gerçek dünya uygulamalarına geçişi, güvenlik sorunları nedeniyle zorlu bir süreç yaşıyor. Bu soruna çözüm arayan araştırmacılar, 'Arbiter-K' adında yenilikçi bir mimari geliştirdi.
Mevcut sistemlerde AI ajanlarının kontrolü büyük ölçüde dil modellerine bırakılıyor ve güvenlik önlemleri sonradan eklenen basit kurallarla sağlanmaya çalışılıyor. Bu yaklaşım, sistemleri kırılgan ve öngörülemeyen hale getiriyor.
Arbiter-K mimarisi ise farklı bir yaklaşım benimsiyor. Büyük dil modelini 'Olasılıksal İşlem Birimi' olarak tanımlayıp, bunu deterministik bir çekirdekle sarmalıyor. Bu çekirdek, AI modelinin ürettiği olasılıksal mesajları somut talimatlara dönüştüren Semantik Komut Seti Mimarisi kullanıyor.
Sistemin en dikkat çekici özelliği, her karar verme adımını gerçek zamanlı olarak izleyebilmesi. Güvenlik Bağlam Kaydı ve Talimat Bağımlılık Grafiği aracılığıyla, her düşünce düğümünün veri akışını takip ediyor. Bu sayede güvenli olmayan davranış kalıplarını önceden tespit edip engelleyebiliyor.
Araştırmacılar, bu yaklaşımın AI ajanlarının karmaşık görevleri güvenli şekilde yerine getirmesine olanak sağlayacağını belirtiyor. Özellikle kritik alanlarda çalışacak otonom sistemler için bu tür güvenlik mekanizmaları hayati önem taşıyor.