Bir Sistem Kendini Değiştirirken Aslında Neyi Değiştiriyor?

Bir yapay zeka modeli yeniden eğitildiğinde ya da bir insan alışkanlığını değiştirdiğinde, aslında hangi katmanda bir dönüşüm gerçekleşiyor? Bu soru kulağa felsefi gelse de, makine öğrenimi sistemleri ve bilişsel bilim açısından son derece pratik sonuçlar doğuruyor.

Yeni bir teorik çalışma, bu soruya sistematik bir yanıt arayışıyla ortaya çıkıyor. Araştırmacılar, bilişsel bilimin yürütücü kontrol, üstbiliş ve hiyerarşik öğrenme gibi kavramları ile yapay zekanın politika güncelleme, parametre optimizasyonu ve öğrenme mekanizması değişimi gibi süreçlerini yan yana koyduğunda, iki alanın aynı olguyu farklı dillerle tanımladığını görüyor.

Bu karışıklığı gidermek için üç temel bileşenden oluşan minimal bir analitik model öneriliyor: işlevsel kurallar kümesi, bu kuralları değiştiren mekanizmalar ve yapılan değişiklikleri değerlendiren kriterler. Model iki bağımsız boyut tanımlıyor. İlki, değişimin hedeflediği derinlik; yani sistemin en temel eylem kuralları mı, yoksa bu kuralları düzenleyen üst katmanlar mı değişiyor? İkincisi ise değişimin kör mü yoksa yansımacı mı olduğu; yani sistem kendi değişiminin farkında mı?

Çalışma ayrıca iki önemli ayrım daha yapıyor: Bir sistemin kendi iç temsillerine gerçekten erişip erişemediği ile bir değişimi gerçekten kendi içinden başlatıp başlatamadığı. Bu ikisi çoğu zaman karıştırılıyor; oysa bir sistem dışarıdan incelenebilir ya da değiştirilebilir olmak ile kendi kendini içeriden değiştirebilmek arasındaki fark, gerçek özerklik sorusunun tam kalbinde yer alıyor.

Model, dört farklı rejim tanımlıyor: organizasyonel değişim olmaksızın salt eylem, işlevsel kuralların değişimi, değiştirme mekanizmalarının değişimi ve nihayet değerlendirme kriterlerinin değişimi. Her rejim, hem yapay zeka mimarileri hem de insan bilişi için farklı anlamlar taşıyor.

Bu çerçeve, öz-modifikasyon kapasitesini ölçmek ve karşılaştırmak isteyen araştırmacılara ortak bir dil sunuyor. Yapay genel zeka tartışmalarında sıkça geçen 'öz-iyileştirme' kavramının ne anlama geldiğini netleştirmek açısından da önemli bir katkı olarak değerlendiriliyor.