Yeni bir araştırma, yapay zeka güvenliğinin mükemmel itaatten ziyade bilişsel çeşitlilikle sağlanabileceğini öne sürüyor. Bilim insanları, farklı düşünce yapılarına sahip AI sistemlerinin birbirini kontrol ettiği 'nörodiverjant' yapay zeka ekosistemlerinin, alignment problemi için pragmatik bir çözüm sunabileceğini belirtiyor. Bu yaklaşım, tek tip düşünen AI'ların aksine, çeşitli bakış açılarına sahip sistemlerin bir arada çalışmasıyla güvenlik ve denge sağlamayı hedefliyor. Araştırma, yapay zeka güvenliği alanında yeni bir perspektif açarak, gelecekteki AI geliştirme stratejilerini etkileyebilecek önemli bulgular sunuyor.

Araştırmacılar, birbirlerine kablo ile bağlı iki drone'dan oluşan 'catenary robot' sistemleri için yenilikçi bir kontrol algoritması geliştirdi. Bu sistem, dronlar arasındaki kablonun doğal asılma şeklini (catenary) matematiksel olarak modelleyerek, belirsizlikler karşısında bile kararlı uçuş sağlayabiliyor. Geliştirilen geometrik kontrol yaklaşımı, kablo kaynaklı güçlerdeki beklenmedik değişimlere karşı dirençli çalışıyor ve tracking hatalarında asimptotik yakınsama garantisi veriyor. Bu teknoloji, kargo taşımacılığından arama kurtarma operasyonlarına kadar geniş bir uygulama alanına sahip olabilir.

Elektrikli ve otonom araçların yaygınlaşmasıyla birlikte elektromanyetik parazit sorunu kritik boyutlara ulaşıyor. Bu parazitler güvenlik sistemlerini bozabilir ve araç içi iletişimi engelleyebilir. Araştırmacılar, geleneksel sabit filtrelerin yerini alacak yapay zeka tabanlı yeni bir sistem geliştirdi. Pekiştirmeli öğrenme kullanan bu akıllı filtreler, değişen koşullara anında uyum sağlayarak paraziti etkili şekilde bastırıyor. Sistem, araç çalışırken sürekli öğrenerek optimum performans sergiliyor ve geleneksel yöntemlere göre daha hafif, kompakt çözümler sunuyor.

Araştırmacılar, modern siber-fiziksel sistemlerin sürdürülebilirlik hedeflerini sabote eden yeni bir saldırı türü için matematiksel çerçeve geliştirdi. Bu 'sürdürülebilirlik hedefli saldırılar', sistemin performansını normal gösterirken uzun vadeli çevresel maliyetlerini artırarak tespit edilmesi zor hasarlar verebiliyor. Çalışma, bu gizli saldırıların nasıl oluşturulabileceğini ve hangi koşullarda mümkün olduğunu ortaya koyuyor. Elektrik şebekeleri, akıllı fabrikalar ve otonom araçlar gibi kritik altyapılarda artan sürdürülebilirlik entegrasyonu, bu saldırı türünü özellikle tehlikeli hale getiriyor. Araştırma, minimum çaba ile maksimum etki yaratacak saldırı politikalarının matematiksel olarak nasıl modellenebileceğini gösteriyor.

Araştırmacılar, otonom sistemlerin güvenli çalışması için yenilikçi bir kontrol algoritması geliştirdi. Bu yaklaşım, zaman içinde değişen güvenlik kısıtlamaları ve giriş bozuklukları olan sistemlerde güvenliği garanti ediyor. Geliştirilen 'güçlü zaman değişken kontrol bariyer fonksiyonları', temel kontrolcünün komutlarını minimal düzeyde değiştirerek güvenli operasyon sağlıyor. Algoritma, uzay aracı kenetlenme manevrası gibi kritik uygulamalarda test edildi. Bu gelişme, otonom araçlardan robotik sistemlere kadar geniş bir uygulama yelpazesinde güvenlik standartlarını artırabilir.

Araştırmacılar, yapay zeka modellerinin güvenlik önlemleri nedeniyle zararsız sorulara bile yardım etmekte zorlandığını keşfetti. CarryOnBench adlı yeni değerlendirme sistemi, kullanıcıların niyetlerini netleştirdiğinde AI'ların ne kadar iyi toparlandığını ölçüyor. Çalışma, 398 zararsız ama şüpheli görünen soruyla başlayarak 14 farklı AI modeli test etti. Sonuçlar, modellerin ilk turda kullanıcıların gerçek bilgi ihtiyaçlarının sadece yüzde 10.5-37.6'sını karşılayabildiğini ortaya koydu. Bu araştırma, AI güvenlik sistemlerinin bazen aşırı temkinli davrandığını ve kullanıcılara gerçek anlamda yardım etmekte başarısız olduğunu gösteriyor.

Araştırmacılar, sosyal medyada kullanıcıları kandırmak için duygusal manipülasyon tekniklerini kullanan yeni bir yapay zeka saldırı yöntemi geliştirdi. Çalışma, geleneksel clickbait tespitinin yetersizliğini ortaya koyarken, Valence-Arousal-Dominance (VAD) duygusal modelini kullanarak optimize edilmiş aldatıcı başlıklar üreten bir sistem sunuyor. Bu sistem, büyük dil modellerini kullanarak semantik olarak benzer sosyal medya gönderileriyle eşleşen, ancak duygusal etkisi maksimize edilmiş içerikler yaratabiliyor. Araştırma, dijital güvenlik ve bilgi kirliliği alanında önemli sonuçlar doğuruyor.

Araştırmacılar, büyük dil modellerinin güvenlik mekanizmalarını kontrol eden nöron ağlarını keşfetti. Milyonlarca nöron içeren sistemlerde, zararlı içerik üretimini engelleyen güvenlik mekanizmasının sadece 50 nöron tarafından yönetildiği ortaya çıktı. Bu nöronlar tüm sistemin yalnızca %0.014'ünü oluştururken, yanıt formatlarının %80'ini kontrol ediyor. Pertürbasyon probing adı verilen yeni tanı yöntemi, yapay zeka modellerinin davranış devrelerini iki geçişle analiz ediyor. Çalışma, RLHF eğitimi sonrası ortaya çıkan 'karşıtlık devreleri' ve dil seçimi gibi önceden öğrenilmiş davranışları yöneten 'yönlendirme devreleri' olmak üzere iki temel devre yapısı tanımlıyor.

Araştırmacılar, görsel ve metin verilerini birlikte işleyen CLIP gibi yapay zeka modellerinde kritik bir güvenlik açığı keşfetti. 'Hub metinler' olarak adlandırılan bu sorun, yüksek boyutlu embedding uzaylarında ortaya çıkıyor ve tek bir metin parçasının alakasız binlerce görsel ile yanlış şekilde eşleştirilmesine neden oluyor. Bu durum, görsel arama sistemlerinden otomatik değerlendirme metriklerine kadar pek çok uygulamada ciddi sorunlar yaratabilir. MSCOCO ve Flickr30k gibi veri setlerinde yapılan deneyler, bu hub metinlerin görsel-metin benzerlik skorlarını mantıksız şekilde yükselttiğini gösterdi.

Araştırmacılar, sağlık alanında kullanılan yapay zeka asistanlarının karşılaştığı kritik bir sorunu çözmek için yeni bir sistem geliştirdi. Bu sistemler, hastanın anlattıkları ile elektronik sağlık kayıtları arasındaki çelişkileri tespit edebiliyor. Hasta beyanları güncel olsa da hatırlamaya dayalı önyargılar içerebilirken, tıbbi kayıtlar doğrulanmış ancak güncel olmayabiliyor. Geleneksel AI sistemleri tutarlılık için eski bilgileri yenileriyle değiştirdiğinde klinik veriler söz konusu olduğunda güvenlik riskleri ortaya çıkıyor. Yeni geliştirilen İkili Akış Hafıza Mimarisi, hasta anlatılarını yapılandırılmış klinik kayıtlardan ayrı tutuyor. Sistem, her çıkarılan hafıza bilgisini hastanın FHIR profiliyle karşılaştırarak çelişkileri türe, ciddiyete ve ilgili kaynaklara göre sınıflandırıyor. Bu yaklaşım, sağlık AI'larının daha güvenli ve güvenilir olmasını sağlıyor.

Araştırmacılar, büyük dil modellerine yönelik gelişmiş siber saldırılara karşı TwinGate adlı yenilikçi bir savunma sistemi geliştirdi. Bu sistem, kötü niyetli kullanıcıların zararsız görünen sorular dizisi halinde gizledikleri tehlikeli talepleri tespit edebiliyor. TwinGate, asimetrik kontrastif öğrenme tekniğini kullanarak, anlam bakımından farklı ama aynı kötü amaca hizmet eden sorguları kümeleyebiliyor. Sistem, kullanıcı kimliklerinin anonim olduğu ve sürekli sorgular geldiği gerçek dünya koşullarında bile etkili çalışıyor. Mevcut savunma yöntemlerinin aksine, TwinGate hesaplama maliyeti düşük bir çözüm sunarak yapay zeka güvenliği alanında önemli bir adım atıyor.