Teknoloji & Yapay Zeka

XFED: Bizantin Dayanıklı Federe Sınıflandırıcılara Karşı İşbirliksiz Model Zehirleme Saldırısı

Araştırmacılar, federe öğrenme sistemlerine karşı koordinasyon gerektirmeyen yeni bir model zehirleme saldırı yöntemi geliştirdi. XFED adlı bu saldırı, birden fazla kötü niyetli istemcinin işbirliği yapmadan da etkili olabiliyor.

Model zehirleme saldırıları, Federe Öğrenme (FL) sistemleri için önemli bir güvenlik tehdidi oluşturuyor. Mevcut saldırı yöntemlerinin çoğu, kötü niyetli istemcilerin yerel masum modelleri paylaşarak koordinasyon kurmasını gerektiriyor.

Ancak gerçek dünya FL uygulamalarında böyle bir koordinasyonu sürdürmek giderek zorlaşıyor. Bu durumda araştırmacılar, işbirliği gerektirmeyen yeni bir saldırı yöntemi olan XFED'i geliştirdi.

XFED, Bizantin dayanıklı federe sınıflandırıcılara karşı etkili bir şekilde çalışabilen non-kollüziv bir model zehirleme saldırısı sunuyor. Bu yöntem, kötü niyetli istemcilerin birbirlerıyla iletişim kurmadan da sistem güvenliğini tehdit edebileceğini gösteriyor.

Araştırma, federe öğrenme sistemlerinin güvenlik açıklarını anlamak ve bu tür saldırılara karşı daha güçlü savunma mekanizmaları geliştirebilmek açısından önem taşıyor.

Özgün Kaynak
arXiv
XFED: Non-Collusive Model Poisoning Attack Against Byzantine-Robust Federated Classifiers
Orijinal makaleyi oku

Bu içerik, özgün kaynaktaki bilgiler temel alınarak BilimKapsül editörleri tarafından yeniden kaleme alınmıştır. Orijinal metnin birebir çevirisi değildir. Telif hakkı özgün yayıncıya aittir.