Teknoloji & Yapay Zeka

Federe Öğrenmede Cihaz Arızalarına Karşı Yeni Senkronizasyon Yöntemi

Araştırmacılar, federe öğrenme sistemlerinde cihaz arızalarının yarattığı adaletsizlik sorununu çözmek için yeni bir yaklaşım geliştirdi. Mevcut Olasılıksal Senkron Paralel (PSP) yönteminin, sürekli erişilebilir cihazları kayırdığını ve mobil cihazlar gibi sık arıza yapan cihazların verilerini ihmal ettiğini ortaya koyan çalışma, bu durumun öğrenme performansını ciddi şekilde etkilediğini gösteriyor. Özellikle veri dağılımı ile cihaz erişilebilirliğinin aynı anda ilişkili olduğu durumlarda, belirli veri sınıflarının sistematik olarak eksik temsil edilmesi sorunu yaşanıyor. Bu durum, yapay zeka modellerinin bazı özellikleri öğrenmekte zorlanmasına ve genel performansın düşmesine neden oluyor. Yeni araştırma, bu adaletsizlik problemine çözüm getirmeyi hedefliyor.

Federe öğrenme sistemlerinde kullanılan mevcut senkronizasyon yöntemlerinin ciddi bir adalet sorunu yarattığı ortaya çıktı. Dağıtık öğrenme sistemlerinde senkronizasyon darboğazlarını azaltmak için kullanılan Olasılıksal Senkron Paralel (PSP) tekniği, her turda katılımcı düğümlerin bir alt kümesini örnekleyerek sistem verimini artırmayı hedefliyor.

Ancak yeni araştırma, PSP yönteminin önemli bir eksikliği olduğunu gösteriyor: bu teknik, cihaz davranışlarının statik olduğunu ve farklı cihazların birbirinden bağımsız çalıştığını varsayıyor. Bu varsayım, sürekli erişilebilir olan cihazların eğitim sürecine hakim olmasına, sık sık erişilemeyen cihazların ise nadiren katılım göstermesine yol açıyor.

Sorun özellikle mobil cihazlar, güç kısıtlamaları ve kullanıcı etkinliği gibi faktörler nedeniyle kenar cihazların güvenilmez olduğu federe öğrenme ortamlarında kendini gösteriyor. Bu durum, belirli veri türlerinin gözden kaçırılmasına neden oluyor.

En kritik durum ise veri dağılımı ve düğüm erişilebilirliğinin aynı anda cihazla ilişkili olduğu zamanlarda yaşanıyor. Bu koşullarda hem PSP hem de standart federe öğrenme algoritmaları, belirli sınıf veya grupların sürekli olarak yetersiz temsil edilmesi sorunuyla karşılaşıyor. Bu da yapay zeka sistemlerinin bazı özellikleri öğrenmesini zorlaştırıyor veya tamamen engelliyor.

Özgün Kaynak
arXiv (CS + AI)
Robust Synchronisation for Federated Learning in The Face of Correlated Device Failure
Orijinal makaleyi oku

Bu içerik, özgün kaynaktaki bilgiler temel alınarak BilimKapsül editörleri tarafından yeniden kaleme alınmıştır. Orijinal metnin birebir çevirisi değildir. Telif hakkı özgün yayıncıya aittir.