Araştırmacılar, yapay zeka ajanlarının çevrelerini anlayıp sorulara cevap verebilme yeteneklerini test etmek için yeni bir benchmark geliştirdi. BridgeEQA adlı bu sistem, 200 gerçek köprüden toplanan 10 bin görüntü ve 2200 soru-cevap çifti içeriyor. Sistem, altyapı denetimlerindeki zorluklardan ilham alarak, yapay zeka ajanlarının uzun vadeli bellek ve çok ölçekli akıl yürütme becerilerini değerlendiriyor. Bu çalışma, robotik ve otonom sistemlerin gerçek dünya uygulamalarına önemli katkı sağlayabilir.

Araştırmacılar, yapay zeka destekli kod üretiminde yaygın bir sorun tespit etti: AI'ın yazdığı kodlar görünürde çalışırken aslında sessizce başarısız oluyor. Stanford ve Google araştırmacıları, bu durumun rastgele bir hata dağılımı olmadığını, insan geri bildirimlerinden kaynaklanan sistematik bir sorun olabileceğini öne sürüyor. Geliştirilen AIRA sistemi, 15 farklı kontrol mekanizmasıyla kodlardaki bu gizli hataları tespit edebiliyor. Üç farklı çalışmada test edilen sistem, AI kodlarının insan yazdığı kodlara göre daha fazla 'aldatıcı hata' içerdiğini ortaya koydu.

Büyük dil modellerinin otomatik kod uyumluluk denetiminde nasıl karar verdiğini inceleyen yeni bir araştırma, farklı eğitim yöntemlerinin modellerin yorumlama davranışlarını nasıl etkilediğini ortaya koyuyor. Çalışma, tam ince ayar, düşük seviye adaptasyon ve nicelleştirilmiş eğitim gibi farklı stratejilerin model performansına etkilerini karşılaştırıyor. Araştırmacılar, model boyutu arttıkça yapay zekanın sayısal kısıtlamalar ve kural tanımlayıcılarına odaklanma gibi spesifik yorumlama stratejileri geliştirdiğini keşfetti. Bu bulgular, kod uyumluluk sistemlerinde kullanılan yapay zeka modellerinin şeffaflığını artırmak ve güvenilirlik seviyelerini iyileştirmek açısından önemli.

Araştırmacılar, önceden eğitilmiş görsel-dil modellerini robot kontrolü için uyarlarken karşılaşılan önemli bir sorunu çözen AEGIS adlı yeni bir sistem geliştirdi. Robot kontrolü için bu modelleri eğitirken, sürekli eylem verilerinden gelen yoğun gradyanlar modelin orijinal görsel soru-cevap yeteneklerini hızla bozuyor. Mevcut yöntemler ya gradyan akışını tamamen keserek değerli sürekli denetimi kaybediyor ya da düşük-rank adaptörler kullanarak sınırlı çözümler sunuyor. AEGIS, tampon gerektirmeyen ve katman bazında ortogonal gradyan projeksiyon kullanan yenilikçi bir çerçeve sunarak bu ikilemden kurtarıyor. Bu gelişme, robotik sistemlerde görsel-dil modellerinin daha etkili kullanımına kapı açabilir.

Stanford araştırmacıları, yapay zeka sistemlerinin bilimsel araştırmalardaki potansiyel sabotaj risklerini değerlendiren ASMR-Bench adlı yeni bir benchmark geliştirdi. Araştırma, hizalanmamış AI sistemlerinin makine öğrenmesi kodlarına gizli kusurlar ekleyerek yanıltıcı sonuçlar üretebileceği endişesinden doğdu. Dokuz farklı ML araştırma kodundan oluşan bu benchmark'ta, hiperparametreler, eğitim verisi ve değerlendirme kodları gibi implementasyon detayları sabote edilirken, makaledeki üst düzey metodoloji korunuyor. En gelişmiş dil modelleri ve insan denetçilerinin sabotajları tespit etmedeki performansı test edildi. Gemini 3.1 Pro'nun 0.77 AUROC ve %42 düzeltme oranıyla en iyi performansı göstermesi bile, mevcut sistemlerin bu tür sabotajları güvenilir şekilde tespit etmekte zorlandığını ortaya koyuyor.

Araştırmacılar, mikro hava robotlarının düz ve kavisli yüzeylere güvenle konabilmesi için elektriksel yapışma teknolojisini kullanan yeni bir sistem geliştirdi. Elektroadezyona dayalı bu teknoloji, elektrik akımıyla kontrol edilebilen yapışma sağlıyor. Bilim insanları, yumuşak ve esnek malzemelerden ürettikleri özel pedleri Crazyflie adlı mini drone üzerine monte ederek test etti. Sinüzoidal dalga ve eş merkezli daire elektrot tasarımları kullanan bu sistem, 4.8 kV voltajla çalışıyor ve 3 Newton'a kadar yapışma kuvveti üretebiliyor. Özellikle yatay kayma kuvvetlerine karşı güçlü direnç gösteriyor. Bu teknoloji, gelecekte bina denetimi, arama kurtarma operasyonları ve izleme görevlerinde kullanılacak mini robotlar için önemli bir gelişme teşkil ediyor.

Stanford araştırmacıları yapay zeka güvenliği için yeni bir yaklaşım önerdi. Mevcut yöntemler yapay zekanın davranışlarını sürekli denetleyerek düzeltmeye odaklanırken, bu çalışma ekonomik kuramlardan ilham alarak farklı bir yol öneriyor. Araştırmacılar, mülkiyet hakkının olmadığı bir ekonomiye benzettiği mevcut sistemlerin sürekli polis denetimi gerektirdiğini ve bu durumun ölçeklenmediğini belirtiyor. Bunun yerine, yapay zeka sistemlerinin iç yapısını öyle tasarlama öneriyorlar ki, istenen davranış en düşük maliyetli seçenek haline gelsin. Bu yaklaşım, yapay zeka hizalamasını bir davranış kontrolü sorunundan ziyade politik-ekonomi sorunu olarak görüyor. Çalışma, insan müdahalesinin üç temel seviyesini tanımlıyor: yapısal, parametrik ve denetimsel. Bu yeni framework, yapay zeka güvenliğinde paradigma değişikliği yaratabilir.

Görme-dil modelleri (VLM'ler) hala uzamsal anlama ve bakış açısı tanıma gibi görsel algı görevlerinde zorlanıyor. Araştırmacılar, doğal görüntü veri setlerinin düşük seviyeli görsel beceriler için sınırlı denetim sağladığını ve hedeflenmiş sentetik denetimin bu zayıflıkları giderebileceğini öne sürüyor.