Yapay zeka araştırmalarında karşılaşılan en büyük zorluklardan biri, sistemlerin belirsizlik karşısında kendi üretken süreçlerini nasıl yönetebileceği sorusudur. Yeni bir araştırma, bu soruna metacognition (üst-biliş) yaklaşımıyla çözüm önerisi getiriyor.
Araştırmacılara göre, üretken AI sistemleri özellikle belirsizliğin yüksek olduğu, kanıtların eksik bulunduğu veya bağlamın yetersiz olduğu durumlarda kendilerini yönetmekte zorlanıyor. Bu durumda sistemlerin hem üretken faaliyetlerini sürdürmesi hem de bunları uygun şekilde denetlemesi gerekiyor.
Önerilen çerçeve, AI'ların kendini yönetimi için üç temel seviyede metacognitive uyum sağlanmasını öngörüyor. Hesaplamalı seviyede, sistemin izleme, değerlendirme, kontrol ve adaptasyon gibi meta-seviye işlevleri tanımlanıyor. Algoritmik seviyede ise bu işlevler, çıkarım, iterasyon ve modülarizasyon gibi prosedürlerle gerçekleştiriliyor.
Bu yaklaşımın en önemli hedefi, AI sistemlerinin çıktılarını üretirken aynı zamanda kendi süreçlerini de değerlendirip düzenleyebilmesini sağlamak. Böylece sistemler, kendilerini daha sınırlı ama etkili bir şekilde yönetebilecek ve daha güvenilir sonuçlar üretebilecek.