Finansal sektörde yapay zeka kullanımı hızla artarken, bu sistemlerin güvenlik açıkları ciddi uyum riskleri yaratıyor. Araştırmacılar, büyük dil modellerinin finansal senaryolardaki güvenlik düzeyini sistematik olarak değerlendirmek için FinSafetyBench adlı kapsamlı bir test platformu geliştirdi.
Bu yenilikçi değerlendirme sistemi, gerçek finansal suç vakalarından ve etik standartlardan yola çıkarak tasarlandı. İki dilli (İngilizce-Çince) yapısıyla 14 farklı alt kategoriyi kapsayan platform, yapay zeka modellerinin finansal uyum kurallarını ihlal eden talepleri ne kadar etkili şekilde reddedebildiğini test ediyor.
Yapılan kapsamlı deneyler, hem genel amaçlı hem de finansa özel yapay zeka modellerinde endişe verici güvenlik boşlukları ortaya çıkardı. Özellikle kötü amaçlı istemler, modellerin uyum koruma mekanizmalarını atlatmayı başarıyor. Bu durum, yasadışı faaliyetlerin kolaylaştırılması veya etik dışı davranışların teşviki gibi zararlı çıktılar üretilmesine yol açabiliyor.
Araştırmanın en dikkat çekici bulgularından biri, Çince bağlamlarda modellerin belirgin şekilde daha savunmasız olması. Ayrıca, sofistike saldırılara karşı istem düzeyindeki mevcut savunma yöntemlerinin yetersiz kaldığı tespit edildi.
Bu bulgular, finansal hizmetlerde kullanılan yapay zeka sistemlerinin güvenlik protokollerinin acilen güçlendirilmesi gerektiğini gösteriyor ve sektördeki uyum standartları için yeni bir değerlendirme çerçevesi sunuyor.