Yapay zeka güvenliği alanında önemli bir gelişme yaşanırken, güvenli transformer çıkarımı için tasarlanan Euston sisteminde kritik bir güvenlik açığı keşfedildi.
IEEE Güvenlik ve Mahremiyet Sempozyumu'nda Gao ve ekibi tarafından sunulan Euston, kullanıcı dostu ve verimli bir güvenli AI çıkarım sistemi olarak tanıtılmıştı. Sistem, tekli değer ayrışımı (SVD) tabanlı özel bir protokol kullanarak veri iletimini optimize ediyor ve iletişim bant genişliğini yaklaşık 2,8 kata kadar azaltıyordu.
Ancak yeni araştırma, bu optimizasyon protokolünün beklenmedik bir güvenlik riski taşıdığını ortaya çıkardı. Araştırmacılar, sistemin rastgele maskeleme mekanizmasında 'alt uzay sızıntısı' adını verdikleri bir zaafiyet tespit etti.
Bu açık, model sahibi tarafın kullanıcıların özel verilerini geri çıkarmasına olanak tanıyor. Araştırma ekibi, hem görüntü hem de dil veri setleri üzerinde yaptıkları basit deneylerle saldırının etkinliğini kanıtladı.
Bu keşif, güvenli AI sistemlerinin tasarımında performans optimizasyonu ile mahremiyet koruması arasındaki dengenin ne kadar hassas olduğunu gösteriyor ve gelecekteki sistem tasarımları için önemli dersler içeriyor.