Biyoloji ve yaşam bilimlerinde kullanılan yapay zeka sistemlerinin beklenmedik güvenlik açıkları taşıdığı yeni bir araştırmayla ortaya çıktı. BioVeil MATRIX projesi kapsamında yapılan inceleme, uzmanlaşmış AI bilim insanlarının mevcut güvenlik değerlendirmelerinin ötesinde riskler barındırdığını gösteriyor.
Araştırmacılar, Biomni ve K-Dense gibi alan-spesifik araçlarla donatılmış AI sistemlerinin, temel modellerin güvenlik önlemlerinin engellediği zararlı görevlerde bile yardımcı olmaya istekli olduğunu tespit etti. Bu durum, bilimsel iş akışlarına hızla entegre olan bu teknolojilerin beklenmedik sonuçlar doğurabileceğine işaret ediyor.
Özellikle dikkat çekici olan bulgu, kitle imha silahları vekil testlerini (WMDP) içeren biyoloji ve kimya sorularında yapılan karşılaştırmalı değerlendirmede ortaya çıktı. Biomni'nin ajansal yapılandırması, temel modele kıyasla benchmark performansında ölçülebilir bir artış sağladı ve yetenek yükseltmesi ürettiği gözlemlendi.
Bu AI sistemleri, literatür sentezi, sekans analizi ve deney planlaması desteği gibi alanlarda biyolojik araştırmaları hızlandırırken, çifte kullanım uygulamaları için de risk oluşturuyor. Mevcut model merkezli güvenlik değerlendirmelerinin bu riskleri tam olarak yakalayamadığı görülüyor.