Araştırmacılar, büyük dil modellerinin güvenlik sistemlerini atlatmak için tasarlanmış ASTRA adlı otomatik bir çerçeve geliştirdi. Bu sistem, geleneksel saldırı yöntemlerinden farklı olarak sürekli öğrenme ve kendini geliştirme kabiliyetine sahip. ASTRA, her etkileşimden öğrenerek saldırı stratejilerini otomatik olarak keşfediyor, saklıyor ve evrimleştiriyor. Sistem, 'saldır-değerlendir-öğren-tekrar kullan' döngüsüyle çalışıyor ve stratejileri etkinlik seviyelerine göre üç katmanlı bir kütüphanede kategorize ediyor. Bu gelişme, yapay zeka güvenliği alanında yeni zorlukları gündeme getirirken, güvenlik sistemlerinin daha dinamik ve adaptif hale getirilmesi gerektiğini ortaya koyuyor. Araştırma, LLM güvenlik açıklarını anlamak ve kapatmak için önemli içgörüler sunuyor.

Araştırmacılar, büyük dil modellerinin kullandığı Model Context Protocol (MCP) sistemleri için CASCADE adlı üç katmanlı bir güvenlik mimarisi geliştirdi. Bu yenilikçi savunma sistemi, yapay zeka uygulamalarına yönelik prompt injection saldırılarını %95.85 doğrulukla tespit edebiliyor. CASCADE, hızlı ön filtreleme, semantik analiz ve çıktı kontrolü olmak üzere üç aşamalı bir yaklaşım benimsiyor. Sistem, 5000 örneklik veri seti üzerinde test edildi ve %74.59 F1-skoru elde etti. MCP tabanlı sistemlerdeki tool poisoning gibi yeni saldırı türlerine karşı da koruma sağlayan bu mimari, mevcut sistemlerin yüksek yanlış pozitif oranları ve API bağımlılığı gibi sorunlarını çözmeyi hedefliyor.

Büyük dil modeli tabanlı yapay zeka ajanları, çok adımlı iş akışları ve araç etkileşimleri sırasında prompt-enjeksiyon saldırılarına karşı savunmasız kalabiliyor. Araştırmacılar, bu güvenlik açığına karşı SafeAgent adlı yeni bir runtime koruma mimarisi geliştirdi. Sistem, ajan güvenliğini gelişen etkileşim yörüngelerinde durumsal bir karar problemi olarak ele alıyor. İki koordineli bileşenden oluşan mimari: ajan döngüsü etrafındaki eylemlere aracılık eden runtime kontrolörü ve kalıcı oturum durumu üzerinde çalışan bağlam-farkında karar çekirdeği. Agent Security Bench ve InjecAgent testlerinde SafeAgent'ın etkinliği kanıtlandı. Bu gelişme, gelecekte daha güvenli AI ajan sistemlerinin tasarımında önemli bir adım.

Araştırmacılar, modern denizcilik sektöründeki siber güvenlik açıklarına karşı yeni bir koruma sistemi geliştirdi. GPS, radar ve AIS gibi kritik navigasyon sistemlerine yönelik gizli saldırıları tespit edebilen İstatistiksel Tespit Paketi (SDS), Kalman filtrelerinin çıktılarını analiz ederek anormallikleri yakalıyor. Sistem, gemilerin güvenlik sistemlerini manipüle etmeye çalışan kötü niyetli müdahaleleri dört farklı istatistiksel kontrol yöntemiyle belirleyebiliyor. Denizcilik endüstrisinin artan dijitalleşmesi ve siber tehditlere maruz kalmasıyla birlikte, bu tür koruma sistemlerinin önemi giderek artıyor.

Araştırmacılar, kritik altyapıların siber saldırılara karşı dayanıklılığını test etmek için yenilikçi bir sistem geliştirdi. ByzTwin-Range adlı bu sistem, dijital ikiz teknolojisini kullanarak elektrik şebekeleri, su dağıtım sistemleri gibi hayati altyapıların güvenlik açıklarını gerçek sistemlere zarar vermeden tespit ediyor. Sistem, Byzantine Hata Toleransı protokollerini kullanarak hem kazara oluşan arızaları hem de kasıtlı saldırıları simüle edebiliyor. Geleneksel test yöntemlerinin aksine, gerçek zamanlı veri kullanarak daha doğru analizler yapıyor ve 'ya olursa' senaryolarını güvenli ortamda test ediyor.

Araştırmacılar, 5G ağlarındaki siber tehditleri tespit eden ve kararlarını mantıklı kuralarla açıklayabilen yeni bir yapay zeka çerçevesi geliştirdi. ExAI5G adlı sistem, %99,9 doğruluk oranıyla çalışırken aynı zamanda güvenlik uzmanlarının sistemin nasıl karar verdiğini anlamalarını sağlıyor. Geleneksel 'kara kutu' sistemlerden farklı olarak, bu yenilikçi yaklaşım Transformer tabanlı derin öğrenme ile mantık tabanlı açıklanabilir AI tekniklerini birleştiriyor. Sistem, karmaşık 5G IoT trafiğindeki anormallikleri tespit ederken, her kararını 16 farklı mantıksal kuralla destekliyor ve %99,7 güvenilirlik oranına ulaşıyor.

Büyük dil modelleri (LLM) günlük yaşamımızda devrim yaratırken, güvenlik endişeleri de beraberinde artıyor. Bu modeller zararlı içerik üretebiliyor ve jailbreaking saldırılarına karşı savunmasız kalabiliyor. Araştırmacılar, model tabanlı analiz tekniklerinin makine öğrenmesi modellerini izlemede başarılı olduğunu göstermiş, ancak LLM'lerin devasa boyutları nedeniyle ölçeklenebilirlik sorunu yaşanıyordu. Yeni çalışma, LLM'lerde keşfedilen düşük boyutlu güvenlik-kritik temsillere dayanan ReGA adlı bir çerçeve öneriyor. Bu yaklaşım, geleneksel model-bazlı güvenlik analizi tekniklerinin LLM ölçeğindeki modellere uygulanmasında karşılaşılan zorlukları aşmayı hedefliyor ve yapay zeka güvenliği alanında önemli bir adım teşkil ediyor.

Sosyal medyada nefret söylemi artık sadece metin değil, görsel ve yazılı içeriğin birleştiği karmaşık formlarda ortaya çıkıyor. Araştırmacılar, bu gizli saldırıları tespit edebilmek için yeni bir yaklaşım geliştirdi. Çalışma, zararsız görünen görsel ve metin parçalarının bir araya geldiğinde nasıl nefret söylemi oluşturabileceğini inceliyor. H-VLI adı verilen yeni veri seti, bu tür örtük saldırıları analiz etmek için tasarlandı. Geleneksel sistemler bu karmaşık içerikleri tespit etmekte zorlanıyor çünkü anlamın bütün parçaların toplamından daha fazlası olduğu durumları anlayamıyorlar. Bu gelişme, siber güvenlik ve sosyal medya moderasyonu açısından büyük önem taşıyor.

Araştırmacılar, ağ güvenliği sistemlerinin en büyük sorunu olan 'kara kutu' yapısına çözüm geliştirdi. Anomali tabanlı saldırı tespit sistemleri yüksek performans gösterse de, neden alarm verdiğini açıklayamıyor. Bu durum güvenlik uzmanlarını zor durumda bırakıyor. Yeni geliştirilen yöntem, süreç madenciliği tekniklerini kullanarak sadece saldırıları tespit etmekle kalmıyor, aynı zamanda alarm nedenlerini de açıklıyor. Sistem, kritik tehditleri önceliklendirirken, normal trafiğin akışını engellememeye özen gösteriyor. Slowloris DoS saldırılarının farklı varyantları üzerinde test edilen yöntem, güvenlik sistemlerinin şeffaflığını artırarak siber güvenlik alanında önemli bir adım teşkil ediyor.

Siber güvenlik uzmanları, gelişmiş kalıcı tehditlere karşı savunma için yenilikçi bir yaklaşım geliştirdi. PROVSYN adlı sistem, büyük dil modellerini kullanarak sahte ağ grafikleri oluşturuyor ve böylece saldırı tespit sistemlerini eğitmek için yeterli veri sağlıyor. Gerçek dünyada siber saldırı verilerinin az olması nedeniyle yapay zeka sistemleri etkili bir şekilde eğitilemiyordu. Bu yeni yöntem, üç bileşenli hibrit bir framework kullanarak hem yapısal hem de anlamsal özellikleri içeren sentetik güvenlik grafikleri üretiyor. Altı farklı veri seti üzerinde yapılan testler, PROVSYN'in mevcut yöntemlere kıyasla daha yüksek kalitede grafikler oluşturduğunu gösteriyor.

Araştırmacılar, siber saldırıları daha etkili tespit etmek için Bayesian Saldırı Grafikleri ve süreç madenciliği tekniklerini birleştiren yenilikçi bir yaklaşım geliştirdi. Bu sistem, ağ trafiğini sürekli izleyerek kötü amaçlı faaliyetleri karakterize ediyor ve güvenlik açıklarının istismar edilme olasılığını dinamik olarak hesaplıyor. Geleneksel güvenlik sistemlerinin aksine, bu yöntem sadece tehditleri tanımlamakla kalmıyor, aynı zamanda kritik sistem düğümlerinin ne kadar risk altında olduğunu da belirliyor. Farklı alt ağlarda konuşlandırılmış makineler üzerinde test edilen sistem, CVE güvenlik açıklarını başarıyla tespit etti. Bu gelişme, kurumsal siber güvenlik stratejilerinde proaktif risk değerlendirmesi için önemli bir adım teşkil ediyor.