Araştırmacılar, kuantum makine öğrenmesi modellerinin düşmanca saldırılara karşı dayanıklılığını garanti eden yeni bir eğitim yöntemi geliştirdi. Quantum Interval Bound Propagation (QIBP) adlı bu teknik, klasik yapay zekada başarıyla kullanılan interval bound propagation yönteminin kuantum dünyasına uyarlanması. Yöntem, modelin eğitimi sırasında alt ve üst sınırları takip ederek, zararlı müdahaleler altında bile doğru tahminler yapılmasını sağlıyor. Kuantum makine öğrenmesi, veri setlerinin özelliklerini verimli şekilde öğrenerek sınıflandırma gibi görevleri yerine getirmede büyük potansiyel taşıyor. Ancak bu modellerin güvenilirliği kritik uygulamalarda önemli bir konu. Araştırmacılar QIBP'yi hem interval hem de affine aritmetiği kullanarak test etti ve iki yaklaşım arasındaki doğruluk ile tasarım açısından değişimleri inceledi.

arXiv — Kuantum Fiziği 0

Teknoloji & Yapay Zeka

21 Apr

Yapay zeka modellerine karşı evrensel saldırı yöntemi geliştirildi

Araştırmacılar, kapalı kaynak kodlu çok modlu büyük dil modellerine (MLLM) karşı yeni bir saldırı türü geliştirdi. 'Evrensel Hedefli Aktarılabilir Düşmanca Saldırılar' adı verilen bu yöntem, tek bir pertürbasyon kullanarak farklı girdileri tutarlı şekilde belirli bir hedefe yönlendirebiliyor. Geleneksel saldırıların aksine, bu yaklaşım örnek-spesifik değil ve birden fazla girdi üzerinde tekrar kullanılabilir. Araştırma, ticari yapay zeka modellerinin güvenlik açıklarını ortaya koyması açısından önemli. Çalışma, hedef gözetimindeki yüksek varyans, token-bazlı eşleştirmenin güvenilmezliği ve başlangıç değerlerine duyarlılık gibi temel zorlukları ele alıyor. MCRMO-Attack adlı önerilen yöntem, bu sorunlara çözüm getirmeyi hedefliyor.

arXiv (CS + AI) 0