Araştırmacılar, hasta-odaklı tıbbi AI chatbotlarda ciddi güvenlik ve gizlilik açıklarının bulunduğunu ortaya çıkardı. Retrieval-augmented generation (RAG) teknolojisi kullanan bu chatbotlarda yapılan güvenlik değerlendirmesi, hassas sistem bilgilerinin ve hasta verilerinin ifşa olabileceğini gösterdi. Çalışma, AI destekli geliştirme araçlarının bu tür uygulamaları oluşturmayı kolaylaştırsa da, sağlık alanında güvenli yapay zeka dağıtımı için sıkı güvenlik ve yönetişim kontrollerinin kritik önemini vurguluyor. Bu bulgular, tıbbi AI sistemlerinin klinik kullanıma hazırlanmasında güvenlik protokollerinin ihmal edilmemesi gerektiğini ortaya koyuyor.

Araştırmacılar, yapay zeka sistemlerinin güvenliğini sağlamak için yenilikçi bir yaklaşım geliştirdi. Ayrışık Güvenlik Adaptörleri (DSA) adlı bu sistem, güvenlik kontrollerini ana modelden ayırarak hem verimlilik hem de esneklik sağlıyor. Geleneksel güvenlik yöntemleri ya performansı düşürüyor ya da geliştirme sürecini kısıtlıyordu. DSA ise nefret söylemi tespiti, zararlı içerik engelleme ve halüsinasyon önleme gibi alanlarda %53'e varan iyileşmeler göstererek bu sorunu çözüyor. Sistem, minimal hesaplama maliyetiyle çalışırken, kullanıcıların güvenlik seviyesini anlık olarak ayarlamasına da olanak tanıyor.

Araştırmacılar, büyük dil modellerinin siber güvenlik alanındaki performansını değerlendirmek için ExCyTIn-Bench adlı ilk kapsamlı test setini geliştirdi. Bu yenilikçi araç, gerçek güvenlik analistlerinin karmaşık siber tehditleri araştırma sürecini taklit ederek yapay zeka ajanlarının yeteneklerini ölçüyor. Microsoft Sentinel'den elde edilen 57 farklı log tablosunu içeren kontrollü bir Azure ortamında, 7542 özel soru ile test ediliyor. Sistem, uzman güvenlik analistlerinin mantığını kullanarak tehdit araştırma grafikleri oluşturuyor ve bu grafikler üzerinden yapay zeka ajanlarının çok aşamalı kanıt zincirlerini takip etme yeteneğini değerlendiriyor. Bu gelişme, siber güvenlik alanında otomatik tehdit araştırması yapabilen yapay zeka sistemlerinin geliştirilmesi için kritik bir adım teşkil ediyor.

Yeni bir araştırma, mevcut yapay zeka güvenlik değerlendirmelerinin kritik bir eksikliği olduğunu ortaya koyuyor. Çin menşeli dil modellerinde siyasi sansür mekanizmalarını inceleyen bilim insanları, zararlı içerik tespitinin kolay olduğunu, ancak asıl sorunun bu bilgilerin davranışsal politikalara nasıl yönlendirildiğinde saklı olduğunu keşfetti. Beş farklı laboratuvardan dokuz açık kaynak model üzerinde yapılan deneyler, prob doğruluğunun tek başına yanıltıcı olabileceğini gösterdi. Araştırmacılar, siyasi hassasiyet yönünü kaldırdıklarında çoğu modelde sansürün ortadan kalktığını ve doğru bilgi üretiminin geri geldiğini gözlemledi. Ancak bir modelde bilgi mimarisi sansür mekanizmasıyla o kadar iç içe geçmişti ki, müdahale sonrası model gerçek dışı bilgiler üretmeye başladı. Bu bulgular, AI güvenlik testlerinin yeniden düşünülmesi gerektiğini işaret ediyor.

IBM'in kuantum işlemcilerinde yapılan yeni araştırma, bulut tabanlı kuantum bilgisayarlarda ciddi güvenlik sorunları ortaya çıkardı. Araştırmacılar, aynı anda çalışan kuantum devrelerinin birbirini etkileyerek veri güvenliğini tehdit ettiğini keşfetti. Yedi farklı IBM işlemcisinde test edilen beş temel kuantum algoritması, tahmin edilebilir girişim desenleri gösterdi. Bu bulgular, kuantum bulut bilişimde çoklu kullanıcı sistemlerinin güvenliğine dair önemli sorular ortaya koyuyor. Özellikle Grover Algoritması gibi 'agresif' devrelerin diğer kullanıcıların işlemlerini önemli ölçüde etkileyebildiği görüldü. Kuantum bilgisayarların ticari kullanımının artmasıyla birlikte bu güvenlik açıklarının kapatılması kritik önem kazanıyor.

Araştırmacılar, kuantum dolaşıklık teknolojisini kullanarak siber saldırganların iletişim kanallarını bozma girişimlerine karşı etkili bir savunma yöntemi geliştirdi. Çalışma, iki nokta arasında güvenli veri iletimi için dolaşık foton çiftlerinin nasıl kullanılabileceğini gösteriyor. Bu yöntem, özellikle enerji sınırlı saldırganların binary phase shift keying tekniği ile yaptıkları müdahalelere karşı dayanıklılık sağlıyor. Geleneksel sistemlerde güvenlik için paylaşılan rastgele anahtarlar kullanılırken, bu yeni yaklaşım kuantum mekaniğinin temel özelliklerinden yararlanarak daha güvenli bir alternatif sunuyor. Optik iletişim modelleri üzerinde yapılan teorik çalışma, kuantum teknolojilerinin siber güvenlik alanındaki potansiyelini ortaya koyuyor.

Araştırmacılar, kuantum makine öğrenmesi modellerinin düşmanca saldırılara karşı dayanıklılığını garanti eden yeni bir eğitim yöntemi geliştirdi. Quantum Interval Bound Propagation (QIBP) adlı bu teknik, klasik yapay zekada başarıyla kullanılan interval bound propagation yönteminin kuantum dünyasına uyarlanması. Yöntem, modelin eğitimi sırasında alt ve üst sınırları takip ederek, zararlı müdahaleler altında bile doğru tahminler yapılmasını sağlıyor. Kuantum makine öğrenmesi, veri setlerinin özelliklerini verimli şekilde öğrenerek sınıflandırma gibi görevleri yerine getirmede büyük potansiyel taşıyor. Ancak bu modellerin güvenilirliği kritik uygulamalarda önemli bir konu. Araştırmacılar QIBP'yi hem interval hem de affine aritmetiği kullanarak test etti ve iki yaklaşım arasındaki doğruluk ile tasarım açısından değişimleri inceledi.

Kuantum anahtar dağıtımı (QKD) sistemleri, bilgi güvenliğinin geleceği için kritik öneme sahip teknolojiler. Araştırmacılar, yaygın kullanılan decoy-state BB84 QKD sistemlerinde ciddi bir güvenlik açığı tespit etti. Yüksek tekrarlama hızıyla çalışan bu sistemlerde, ardışık optik darbelerin yoğunlukları arasında korelasyonlar oluşuyor. Bu durum, kodlama ayarları hakkında bilgi sızıntısına yol açarak sistemin temel güvenlik varsayımlarını ihlal ediyor. İki endüstriyel prototip üzerinde yapılan deneysel çalışmalar, bu korelasyonların gizli anahtar oranını önemli ölçüde düşürdüğünü gösteriyor. Bulgular, kuantum iletişim güvenliğinde bugüne kadar gözden kaçan kritik bir soruna işaret ediyor ve mevcut sistemlerin yeniden değerlendirilmesi gerektiğini ortaya koyuyor.

Araştırmacılar, tuzaklı iyon teknolojisini kullanarak büyük ölçekli kuantum bilgisayarlar inşa etmenin yollarını araştırdı. Günümüzde 60'tan az kübitten oluşan bu sistemlerin pratik uygulamalarda kullanılabilmesi için hata oranlarının milyarda birden daha düşük olması gerekiyor. Şu anda bu oran binde bir ile on binde bir arasında. Bu büyük açığı kapatmak için kuantum hata düzeltme kodları gerekli. Çalışma, QCCD mimarisi kullanarak yüzey kodlarının nasıl verimli bir şekilde uygulanabileceğini inceliyor. Bu araştırma, kuantum bilgisayarların gerçek dünya problemlerini çözebilecek seviyeye ulaşması için kritik önem taşıyor.

Araştırmacılar, kuantum hafıza gerektirmeyen yeni bir güvenli iletişim protokolü geliştirdi. Bu yenilikçi yaklaşım, geleneksel kuantum anahtar dağıtım sistemlerinin karmaşıklığını ortadan kaldırırken, aynı düzeyde güvenlik sunmayı hedefliyor. Protokol, kodlanmış dizilerin gizlilik amplifikasyonu üzerine kurulu ve kollektif saldırılara karşı dayanıklılık gösteriyor. Sistem, wiretap kodlaması kullanmadan sadece evrensel hash fonksiyonlarına dayanıyor. Bu gelişme, kuantum iletişim teknolojilerinin daha pratik ve erişilebilir hale gelmesinde önemli bir adım olarak değerlendiriliyor. Özellikle kuantum hafıza gereksinimini ortadan kaldırması, protokolün gerçek dünya uygulamalarında daha kolay hayata geçirilebilmesini sağlayabilir.

Cincinnati Üniversitesi araştırmacıları, TikTok'ta çete üyelerinin ürettiği içeriklerin nasıl analiz edilebileceğine dair önemli bulgular ortaya koydu. John Leverso liderliğindeki ekibin gerçekleştirdiği bu çalışma, sosyal medya platformlarındaki çete kültürünün varlığını inceleyerek, kolluk kuvvetleri ve politika yapıcılar için değerli veriler sunuyor. Araştırma, dijital platformlarda görülen çete aktivitelerinin daha etkili bir şekilde izlenebilmesi ve uygun önlemlerin alınabilmesi için yol gösterici nitelikte. Crime, Media, Culture dergisinde yayımlanan bu çalışma, sosyal medyanın suç araştırmalarındaki rolünü ve potansiyelini vurguluyor.