Yapay zeka ajanları artık sadece metin üreten araçlar değil, gerçek zamanlı bilgi toplayan ve çeşitli araçları kullanabilen özerk sistemler haline geliyor. Bu dönüşüm beraberinde yeni güvenlik risklerini de getiriyor.
Yeni araştırma, bu ajanların karşılaştığı tehditleri iki ana kategoride sınıflandırıyor. İlk kategori olan veri tedarik zinciri saldırıları, geçici bağlam enjeksiyonu ve kalıcı bellek zehirlenmesi şeklinde ikiye ayrılıyor. İkinci kategori ise araç tedarik zinciri saldırıları olup, araç keşfi, uygulaması ve çağırılması aşamalarını kapsıyor.
Araştırmanın en dikkat çekici bulgusu 'Viral Ajan Döngüsü' kavramı. Bu durumda, bir ajan saldırıya uğradıkında kendisi de diğer sistemlere saldırı düzenleyebilen bir vektör haline gelebiliyor. Bu döngüsel davranış, güvenlik risklerini katlanarak artırıyor.
Geleneksel yazılım güvenliğinden farklı olarak, bu sistemlerde saldırı yüzeyi çalışma zamanına kayıyor. Ajanlar güvenilmeyen verilerden gelen manipülasyonlara ve olasılıksal kapasite çözümlemelerindeki belirsizliklere açık hale geliyor.
Bu sistematik sınıflandırma, geliştiricilere ve araştırmacılara ajan tabanlı sistemlerin güvenliğini artırmak için yol haritası sunuyor.