Araştırmacılar, yapay zeka tabanlı tavsiye sistemlerinde yeni bir güvenlik açığı keşfetti. 'Visual Inception' adı verilen bu saldırı yöntemi, kullanıcıların yüklediği fotoğraflara gizli tetikleyiciler yerleştirerek AI'nın uzun vadeli hafızasını zehirliyor. Bu tetikleyiciler, sistemin gelecekteki kararlarını sessizce manipüle ederek kullanıcılara belirli ürünleri önermesini sağlayabiliyor. Geleneksel saldırılardan farklı olarak, bu yöntem anında etki göstermek yerine 'uyuyan ajan' gibi davranarak sisteme sızdıktan sonra beklemede kalıyor. Araştırmacılar bu tehdidi engellemek için insan bilişsel süreçlerinden esinlenen CognitiveGuard adlı bir savunma sistemi geliştirdiler. Bu keşif, AI sistemlerinin güvenlik açıkları konusunda yeni bir perspektif sunuyor ve tavsiye sistemlerinin güvenliğinin yeniden değerlendirilmesi gerektiğini gösteriyor.

arXiv (CS + AI) 0

Teknoloji & Yapay Zeka

20 Apr

Yapay Zeka ile Proteinler Tasarlanıyor: Kanser Tedavisi Daha Etkili Olacak

Texas Üniversitesi araştırmacıları, proteinleri kesen 'moleküler makas' olarak bilinen enzimlerin davranışını önceden tahmin edebilen bir yapay zeka modeli geliştirdi. Proteaz adı verilen bu enzimler, kanser hücrelerini öldürme ve virüslerin çoğalmasını engelleme gibi kritik görevlerde kullanılıyor. Ancak her proteazın nasıl davranacağını öngörmek zordu ve bu durum ilaç gelişimini yavaşlatıyordu. Yeni makine öğrenmesi modeli, proteazların evrimsel süreçlerini analiz ederek, labortuvar testleri yapılmadan önce hangi proteazın istenen görevi yerine getirebileceğini tahmin edebiliyor. Bu gelişme, özellikle kanser tedavisinde daha kesin ve etkili ilaçların geliştirilmesine kapı aralayabilir.

Phys.org 0