Araştırmacılar, büyük dil modellerinin kendi yeteneklerini otomatik olarak geliştirmesini sağlayan yeni bir sistem geliştirdi. Skills-Coach adlı bu çerçeve, yapay zeka ajanlarının mevcut becerilerini analiz ederek eksik yönlerini tespit ediyor ve bu alanlarda kendilerini iyileştirmelerini sağlıyor. Sistem, çeşitli görevler üreten, becerileri optimize eden, performansı karşılaştıran ve sonuçları değerlendiren dört ana modülden oluşuyor. Bu gelişme, yapay zeka sistemlerinin insan müdahalesi olmadan sürekli öğrenebilmesi ve gelişebilmesi açısından önemli bir adım teşkil ediyor.

arXiv — Hesaplamalı Dilbilim (cs.CL) 0

Teknoloji & Yapay Zeka

21 Apr

Yapay zeka güvenliği için yeni tehdit: Kendini geliştiren saldırı sistemi

Araştırmacılar, büyük dil modellerinin güvenlik sistemlerini atlatmak için tasarlanmış ASTRA adlı otomatik bir çerçeve geliştirdi. Bu sistem, geleneksel saldırı yöntemlerinden farklı olarak sürekli öğrenme ve kendini geliştirme kabiliyetine sahip. ASTRA, her etkileşimden öğrenerek saldırı stratejilerini otomatik olarak keşfediyor, saklıyor ve evrimleştiriyor. Sistem, 'saldır-değerlendir-öğren-tekrar kullan' döngüsüyle çalışıyor ve stratejileri etkinlik seviyelerine göre üç katmanlı bir kütüphanede kategorize ediyor. Bu gelişme, yapay zeka güvenliği alanında yeni zorlukları gündeme getirirken, güvenlik sistemlerinin daha dinamik ve adaptif hale getirilmesi gerektiğini ortaya koyuyor. Araştırma, LLM güvenlik açıklarını anlamak ve kapatmak için önemli içgörüler sunuyor.

arXiv (CS + AI) 0