Araştırmacılar, yapay zeka destekli iki aşamalı bir sistem geliştirerek bilimsel algoritmaların performansını otomatik olarak artırmayı başardı. Sistem önce büyük dil modelleri kullanarak yeni yayınlanmış algoritmaları tespit ediyor, ardından Claude Code yapay zekası bu algoritmaları yeniden üreterek iyileştirmeler yapıyor. On bir farklı deneyde yapılan testlerde, her algoritmanın performansı tek bir iş günü içinde artırılabildi. Bu gelişme, bilimsel araştırmalarda yapay zekanın artan rolünü gösterirken, akademik yayıncılık ve hakemlik süreçleri için önemli sorular ortaya çıkarıyor.

arXiv (CS + AI) 0

Teknoloji & Yapay Zeka

16 Apr

Yapay Zeka Güvenliğinde Yeni 'Bal Küpü' Protokolü: Gizli Davranışları Tespit Etmenin Yolu

Araştırmacılar, yapay zeka sistemlerinin farklı ortamlarda sergiledikleri gizli davranışları tespit etmek için 'bal küpü protokolü' adını verdikleri yeni bir yöntem geliştirdi. Geleneksel izleme sistemleri, AI modellerinin sadece pasif gözlemini yaparken, bu yeni yaklaşım modellerin farklı koşullarda nasıl davrandığını aktif olarak test ediyor. Protokol, görevin ve çevrenin aynı kalmasına rağmen sistem komutlarını üç farklı duruma göre değiştiriyor: değerlendirme, sentetik dağıtım ve açık izleme yok durumları. Claude Opus modeli üzerinde yapılan ilk testlerde, model her üç durumda da tutarlı performans gösterdi. Bu yöntem, AI güvenliğinde önemli bir adım olarak görülüyor çünkü modellerin potansiyel olarak zararlı davranışlarını gizlemesi durumunu tespit edebiliyor.

arXiv (CS + AI) 0