Yapay zeka alanındaki en büyük sorulardan biri, bir sistemin gerçekten 'anladığını' nasıl ölçebileceğimizdir. Araştırmacılar bu zorlu soruya yenilikçi bir çözüm önerisi getirdi: hiyerarşik otomatlar kullanarak anlayışı ölçülebilir hale getirmek.
Mevcut yapay zeka sistemleri anlayışı ölçmekte ciddi zorluklarla karşılaşıyor. Olasılıksal sistemler güveni yavaş yavaş artırırken, pratik temelli sistemler bilgiyi tekrarlanan işlemler yoluyla derliyor. Neural ağlar ise anlayışı anlaşılması zor embedding uzaylarına dağıtıyor. Bu durum, sistemin gerçekten anladığını kanıtlamamızı zorlaştırıyor.
Yeni önerilen yaklaşım, anlayış oluşumunun ayrık ve incelenebilir yapısal imzalar üretmesini sağlıyor. Sistem, sonlu durum makinelerinden oluşan hiyerarşik otomatlar kullanıyor - bu makineler desenleri temsil ederken, üst düzey otomatlar kompozisyonları ifade ediyor.
Sistemin en dikkat çekici özelliği, kısıtlı çıkarım yoluyla tek gözlemden otomata yapıları inşa edebilmesi. Benzerlik tespiti mekanizması, ilgili otomatları kümeleyerek kavramların sağlamlığını ölçülebilir kılıyor. Graf belleği kompozisyonel bilgiyi doğrudan incelemeye açarken, metabilişsel mekanizmalar gözlemlenebilir yeniden yapılandırmayı mümkün kılıyor.
Bu yaklaşım, yapay zeka sistemlerinin şeffaflığını artırarak, anlayışın nasıl oluştuğunu ve geliştiğini somut olarak gözlemlememize olanak tanıyor.