Araştırmacılar, büyük dil modellerinde şaşırtıcı bir güvenlik açığı keşfetti: zararsız görünen eğitim süreçleri bile modellerin gizlilik anlayışını tamamen yok edebiliyor. 'Gizlilik çöküşü' adı verilen bu olgu, modellerin bağlamsal gizlilik normlarını anlama yetisini kaybetmesine ve uygunsuz bilgi paylaşımına yol açıyor. En tehlikeli yanı ise bu sorunun 'sessiz bir başarısızlık' olması - modeller standart performans testlerinde başarılı görünürken ciddi gizlilik ihlalleri yapabiliyor. Altı farklı model üzerinde yapılan testler, bu sorunun hem kapalı hem açık kaynaklı sistemlerde yaygın olduğunu ortaya koydu.

Büyük dil modellerinde istenmeyen bilgilerin 'unutturulması' sürecinin dayanıklılığını artırmak için beklenmedik bir çözüm bulundu. Araştırmacılar, karmaşık optimizasyon algoritmalarından daha basit olanları kullanmanın, modellerin unutma sürecini daha kalıcı hale getirdiğini keşfetti. Bu yaklaşım, yapay zeka güvenliği ve gizlilik alanında önemli bir gelişme olarak değerlendiriliyor. Çalışma, geleneksel yaklaşımların aksine optimizasyonun kendisine odaklanarak yeni bir perspektif sunuyor.

Kablosuz iletişimdeki gelişmeler spektrum kıtlığını artırırken, Spektrum Erişim Sistemleri (SAS) önemli güvenlik sorunlarıyla karşı karşıya. Kullanıcıların konum bilgilerini ve iletişim detaylarını paylaşması gereken bu sistemler, gizlilik ihlalleri ve hizmet reddi saldırılarına açık hale geliyor. Kuantum bilgisayarların gelişimiyle bu tehditler daha da büyüyor. Araştırmacılar, bu sorunları çözmek için QPADL adında yeni bir framework geliştirdi. Bu sistem, kuantum sonrası güvenlik sağlarken aynı anda gizliliği, anonimliği ve konum doğrulamasını garanti altına alıyor. Büyük ölçekli spektrum erişim sistemlerinde verimliliği korurken hizmet reddi saldırılarına karşı dayanıklılık sunuyor.

Derin öğrenme teknolojileri tıbbi görüntü analizinde devrim yaratsa da, farklı hastaneler ve hasta grupları arasındaki veri farklılıkları nedeniyle pratik uygulamada ciddi sorunlar yaşanıyor. Bir hastanede eğitilen yapay zeka modelleri, başka bir hastanede kullanıldığında performansları düşebiliyor. Araştırmacılar bu 'dağılım kayması' sorununu çözmek için yeni stratejiler geliştiriyor. Bu kapsamlı araştırma, klinikteki gerçek kısıtlamaları - sınırlı veri erişimi, gizlilik gereksinimleri ve farklı işbirliği protokolleri - dikkate alarak çözüm önerilerini sistematik olarak inceliyor. Çalışma, tıbbi yapay zeka uygulamalarının hastaneler arası kullanımının önündeki teknik ve pratik engelleri aşmaya yönelik mevcut yaklaşımları değerlendiriyor.

Araştırmacılar, MST ve AIM gibi popüler yapay zeka veri üreticilerinin diferansiyel gizlilik garantilerini doğru bir şekilde test edebilen yeni bir denetim sistemi geliştirdi. Gaussian Diferansiyel Gizlilik temelli bu yöntem, teorik hesaplamalarla gerçek performans arasındaki farkı ölçerek gizlilik güvenliğini değerlendiriyor. Test sonuçları, bu AI sistemlerinin gizlilik vaatlerini büyük ölçüde yerine getirdiğini ancak küçük sapmaların olduğunu ortaya koydu. Çalışma, sentetik veri üreten yapay zeka sistemlerinin güvenilirliğini artırmak için kritik bir adım niteliğinde.

Yüz tanıma sistemlerinde güvenlik amacıyla kullanılan facial template'ler, aslında kişilerin kimliklerini gizlemek için tasarlanmıştı. Ancak yeni geliştirilen LBFTI teknolojisi, bu şablonlardan gerçekçi yüz görüntüleri yeniden oluşturabiliyor. Araştırmacılar, yüz görüntülerini üç katmana ayırarak - ön plan (kaş, göz, burun, ağız), orta plan (cilt) ve arka plan (diğer bölümler) - her katman için özel üreticiler kullanıyor. Üç aşamalı eğitim stratejisi ile çalışan sistem, önce katmanları bağımsız olarak oluşturuyor, sonra bunları birleştirerek tam panoramik yüz görüntüleri üretiyor. Bu gelişme, yüz tanıma sistemlerinin gizlilik açısından ne kadar riskli olabileceğini gösteriyor ve biometrik veri güvenliği konusunda yeni tartışmaları beraberinde getiriyor.

ABD'nin 2020 nüfus sayımında kullanılan gizlilik koruma sisteminin, açıklanan garantilerden çok daha güçlü mahremiyet sağladığı ortaya çıktı. Census Bureau, bireysel yanıtları korumak için diferansiyel gizlilik teknolojisini kullanmış ve verilere kontrollü gürültü eklemişti. Yeni araştırma, ulusal seviyeden mahalle seviyesine kadar sekiz farklı coğrafi düzeyde gizlilik korumasının beklenenin üzerinde olduğunu gösteriyor. Bu bulgu, federal fon dağıtımı ve seçim bölgesi belirleme gibi kritik kararlar için kullanılan nüfus sayımı verilerinin hem doğruluğunu hem de bireysel mahremiyeti koruma konusunda önemli bir başarıya işaret ediyor.

Araştırmacılar, dijital varlıkların oluşturulması, güncellenmesi ve transferi için yeni bir güvenlik protokolü geliştirdi. Bu sistem, kullanıcıların kimliklerini gizli tutarken dijital varlıklarının tam kontrolünü ellerinde bulundurmalarına olanak sağlıyor. Protokol üç temel bileşenden oluşuyor: işlem kanalındaki tarafların kimliklerini birbirinden ayıran mekanizma, gizli işlemler için özel bir sistem ve servis sağlayıcıların yanıltıcı davranışlarını engelleyen koruma sistemi. Bu çalışma, dijital finansal işlemlerde gizlilik ve güvenlik konularında önemli bir adım olarak değerlendiriliyor.

Araştırmacılar, büyük dil modellerinin kullanıcı metinlerinden yaş, konum ve cinsiyet gibi kişisel bilgileri çıkarabilme yeteneğine karşı yeni bir savunma sistemi geliştirdi. TRACE ve RPS adlı iki bileşenden oluşan bu sistem, hem gizliliği tehdit eden metin öğelerini hassas bir şekilde maskeliyor hem de yapay zeka modellerinin bu tür çıkarımlar yapmasını engelliyor. Mevcut anonimleştirme yöntemlerinin aksine, kelime düzeyinde hassasiyet sağlayan bu yaklaşım, kullanıcıların sosyal medya ve çevrimiçi platformlardaki mahremiyetini korumada daha etkili sonuçlar veriyor. Çalışma, yapay zekanın gizlilik ihlalleri konusunda artan endişelere teknolojik bir çözüm sunması açısından önemli.

Araştırmacılar, çoklu veri türleri kullanan yapay zeka sistemlerinde gizlilik sorunlarını ele alan yeni bir yöntem geliştirdi. Missing-by-Design (MBD) adlı bu framework, kullanıcıların talep etmesi halinde belirli veri türlerinin sistem hafızasından silinebilmesini sağlıyor. Özellikle duygu analizi yapan sistemlerde, ses, görüntü veya metin gibi farklı veri modalitelerinden herhangi birinin geri alınabilir olması için tasarlandı. Sistem, silinenin yerine yapay olarak benzer veri üretebiliyor ve bu sürecin doğrulanabilir bir sertifikasını sunuyor. Bu yaklaşım, kişisel verilerin korunması konusundaki yasal düzenlemelere uyum sağlamak isteyen teknoloji şirketleri için önem taşıyor.

Büyük dil modellerine (LLM) sorgu gönderen kullanıcılar zor bir seçimle karşı karşıya: Güçlü ama dış kaynaklı modellerde yüksek performans elde etmek ve veri güvenliğini riske atmak, ya da yerel küçük modellerde düşük performansla yetinip gizliliği korumak. Araştırmacılar bu soruna yenilikçi bir çözüm getirdi: Privacy-R1 adlı pekiştirmeli öğrenme sistemi. Bu sistem, metin parçalarını dinamik olarak yönlendiren bir ajan eğiterek, gizlilik koruması ile görev başarımı arasındaki dengeyi optimal şekilde kuruyor. Önceki yaklaşımlar metin tutarlılığını bozup önemli bilgileri de kaldırırken, yeni sistem daha akıllı kararlar alıyor ve her iki gereksinimi de karşılamaya çalışıyor.