Yapay zeka modellerinin karşılaştığı en büyük zorluklardan biri 'katastrofik unutma' problemi: yeni bir görevi öğrenirken daha önce öğrendiklerini tamamen unutmaları. Bu durum, insanların doğal öğrenme süreciyle taban tabana zıt.
Yeni bir araştırma, bu fenomenin matematiksel temellerini anlamak için özel bir yaklaşım geliştirdi. Araştırmacılar, tek gizli katmanlı kuadratik sinir ağlarını kullanarak, modellerin sürekli öğrenme sırasındaki davranışlarını analiz etti.
Çalışmada, farklı görevlerin birbirine dik ortalamalar içeren XOR-küme veri setleri olarak modellendiği özel bir senaryo incelendi. Bu yaklaşım, karmaşık sürekli öğrenme dinamiklerini matematiksel olarak takip edilebilir hale getirdi.
Araştırmanın en önemli bulgusu, modellerin ne kadar hızla unuttuğunu etkileyen faktörlerin kesin matematiksel ifadeleridir. Unutma oranı, iterasyon sayısı, veri seti büyüklüğü, görev sayısı ve ağın genişliği gibi parametrelere bağlı olarak değişiyor.
Bu teorik çerçeve, yalnızca eğitim sırasındaki unutmayı değil, aynı zamanda test zamanındaki performans kaybını da tahmin edebiliyor. Bulgular, gelecekte daha etkili sürekli öğrenme algoritmaları tasarlamak için sağlam bir temel oluşturuyor.