Teknoloji & Yapay Zeka

Yapay Sinir Ağlarında Seçici Ölçüm Devrim Yaratıyor

Araştırmacılar, yapay zeka eğitiminde kullanılan Forward-Forward algoritmasını önemli ölçüde geliştiren yeni bir yaklaşım keşfetti. Geleneksel yöntemlerin aksine, tüm nöronları değerlendirmek yerine sadece en aktif olanları seçen 'top-k iyilik' fonksiyonu, Fashion-MNIST veri setinde %22,6 oranında daha yüksek doğruluk sağladı. Bu yenilikçi yaklaşım, beynin çalışma mantığına daha yakın olan Forward-Forward algoritmasının performansını dramatik şekilde artırarak, yapay zeka eğitiminde yeni ufuklar açıyor. Çalışma, hangi nöron aktivasyonlarının ölçülmesi ve nasıl bir araya getirilmesi gerektiği konusunda sistematik bir analiz sunuyor.

Yapay zeka araştırmalarında çığır açan bir gelişme yaşandı. Bilim insanları, beynin doğal öğrenme süreçlerini taklit eden Forward-Forward algoritmasını büyük ölçüde geliştirecek yeni bir yöntem keşfetti.

Forward-Forward algoritması, geleneksel backpropagation yönteminin aksine, sinir ağlarını katman katman eğiten ve biyolojik olarak daha makul kabul edilen bir yaklaşımdır. Bu algoritma, pozitif ve negatif verileri ayırt etmek için yerel bir 'iyilik fonksiyonu' kullanır. Şimdiye kadar standart olarak kareler toplamı (SoS) fonksiyonu kullanılıyordu.

Araştırmacılar, iyilik fonksiyonlarının tasarım alanını sistematik olarak inceleyerek hangi aktivasyonların ölçülmesi ve nasıl bir araya getirilmesi gerektiğini araştırdı. En dikkat çekici buluş, sadece en aktif k nöronunu değerlendiren 'top-k iyilik' fonksiyonuydu.

Bu yenilik, Fashion-MNIST veri setinde şaşırtıcı bir başarı gösterdi. Geleneksel yönteme kıyasla %22,6 oranında daha yüksek doğruluk elde edildi. Araştırmacılar bunun üzerine, sert top-k seçimini alpha-entmax dönüşümüne dayalı öğrenilebilir seyrek ağırlıklandırma ile değiştiren 'entmax-ağırlıklı enerji' yöntemini geliştirerek ek kazanımlar elde etti.

Bu gelişme, yapay zeka eğitiminde daha verimli ve biyolojik olarak gerçekçi yaklaşımların kapısını aralamakta ve gelecekteki sinir ağı tasarımlarına yön verebilecek niteliktedir.

Özgün Kaynak
arXiv (CS + AI)
Sparse Goodness: How Selective Measurement Transforms Forward-Forward Learning
Orijinal makaleyi oku

Bu içerik, özgün kaynaktaki bilgiler temel alınarak BilimKapsül editörleri tarafından yeniden kaleme alınmıştır. Orijinal metnin birebir çevirisi değildir. Telif hakkı özgün yayıncıya aittir.