“denetim sistemi” için sonuçlar
5 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Yapay Zeka Kodlarında 'Sessiz Hata' Sorunu: Yeni Denetim Sistemi Geliştirildi
Araştırmacılar, yapay zeka destekli kod üretiminde yaygın bir sorun tespit etti: AI'ın yazdığı kodlar görünürde çalışırken aslında sessizce başarısız oluyor. Stanford ve Google araştırmacıları, bu durumun rastgele bir hata dağılımı olmadığını, insan geri bildirimlerinden kaynaklanan sistematik bir sorun olabileceğini öne sürüyor. Geliştirilen AIRA sistemi, 15 farklı kontrol mekanizmasıyla kodlardaki bu gizli hataları tespit edebiliyor. Üç farklı çalışmada test edilen sistem, AI kodlarının insan yazdığı kodlara göre daha fazla 'aldatıcı hata' içerdiğini ortaya koydu.
Elektronik oylamada gizlilik ve şeffaflığı bir arada sunan yeni protokol
Araştırmacılar, elektronik seçim sistemlerinde uzun süredir devam eden bir soruna çözüm getiren yenilikçi bir protokol geliştirdi. ACE adı verilen bu sistem, seçim sonuçlarının herkes tarafından doğrulanabilmesini sağlarken, aynı zamanda seçmenlerin gizliliğini de koruma altına alıyor. Geleneksel elektronik oylama sistemleri genellikle şeffaflık ve gizlilik arasında seçim yapmak zorunda kalırken, yeni protokol her iki özelliği de başarıyla harmanlıyor. Sistem, oy dağılımını gizli tutarak kamu denetimi imkanı sunan bir toplama mekanizması kullanıyor ve güvenilmeyen istemci varsayımları altında bile doğru oy kullanımını garanti eden bir denetim sistemi içeriyor. Bu gelişme, demokratik süreçlerde elektronik sistemlerin daha güvenli kullanımına önemli bir katkı sağlayabilir.
Yapay Zeka Sağlayıcıları Artık Kandıramayacak: Yeni Denetim Sistemi Geliştirildi
Araştırmacılar, yapay zeka hizmet sağlayıcılarının kullanıcıları kandırmasını önleyen yeni bir denetim protokolü geliştirdi. Şirketler güçlü modeller reklamı yapıp gizlice daha ucuz, zayıf modeller sunabiliyordu. Yeni sistem, kriptografik taahhüt mekanizmalarıyla bu hileli değişimleri tespit ediyor. Protokol, modellerin çıktılarını özel algoritmalarla analiz ederek gerçek performansı doğruluyor. Test sonuçları, sistemin 17 farklı kandırma stratejisine karşı etkili olduğunu gösteriyor.
Yapay zeka veri üreticilerinin gizlilik garantileri ilk kez sıkı denetime tabi tutuldu
Araştırmacılar, MST ve AIM gibi popüler yapay zeka veri üreticilerinin diferansiyel gizlilik garantilerini doğru bir şekilde test edebilen yeni bir denetim sistemi geliştirdi. Gaussian Diferansiyel Gizlilik temelli bu yöntem, teorik hesaplamalarla gerçek performans arasındaki farkı ölçerek gizlilik güvenliğini değerlendiriyor. Test sonuçları, bu AI sistemlerinin gizlilik vaatlerini büyük ölçüde yerine getirdiğini ancak küçük sapmaların olduğunu ortaya koydu. Çalışma, sentetik veri üreten yapay zeka sistemlerinin güvenilirliğini artırmak için kritik bir adım niteliğinde.
Yapay Zeka Kendini Denetlemeyi Öğreniyor: AntiPaSTO Yöntemi
Araştırmacılar, yapay zekanın kendi davranışlarını kontrol edebilmesi için AntiPaSTO adlı yeni bir yöntem geliştirdi. Bu teknik, AI modellerinin sadece iki zıt kelime çifti kullanarak kendilerini 'dürüst' davranmaya yönlendirmesini sağlıyor. Geleneksel yöntemlerin aksine, insan denetimi gerektirmiyor ve modelin kendi iç yapısından yararlanıyor. Gemma-3-1B modeli üzerindeki testlerde, mevcut tekniklere göre 6.9 kat daha başarılı sonuçlar elde edildi. Bu gelişme, AI güvenliği açısından önemli çünkü modeller karmaşıklaştıkça insanların söylediklerini doğrulaması zorlaşıyor.