Yeni bir araştırma, mevcut yapay zeka güvenlik değerlendirmelerinin kritik bir eksikliği olduğunu ortaya koyuyor. Çin menşeli dil modellerinde siyasi sansür mekanizmalarını inceleyen bilim insanları, zararlı içerik tespitinin kolay olduğunu, ancak asıl sorunun bu bilgilerin davranışsal politikalara nasıl yönlendirildiğinde saklı olduğunu keşfetti. Beş farklı laboratuvardan dokuz açık kaynak model üzerinde yapılan deneyler, prob doğruluğunun tek başına yanıltıcı olabileceğini gösterdi. Araştırmacılar, siyasi hassasiyet yönünü kaldırdıklarında çoğu modelde sansürün ortadan kalktığını ve doğru bilgi üretiminin geri geldiğini gözlemledi. Ancak bir modelde bilgi mimarisi sansür mekanizmasıyla o kadar iç içe geçmişti ki, müdahale sonrası model gerçek dışı bilgiler üretmeye başladı. Bu bulgular, AI güvenlik testlerinin yeniden düşünülmesi gerektiğini işaret ediyor.

arXiv — Hesaplamalı Dilbilim (cs.CL) 0

Teknoloji & Yapay Zeka

20 Apr

Kanada'nın AI Kayıt Sistemi: Şeffaflık mı, Sansür mü?

Kanada hükümeti, yapay zeka sistemlerinin şeffaflığını artırmak için 2025'te Federal AI Kaydı'nı kullanıma sundu. Ancak yeni bir araştırma, bu kayıt sisteminin gerçek bir şeffaflık aracı olmaktan çok, hesap verebilirliğin sınırlarını belirleyen bir kontrol mekanizması olduğunu ortaya koyuyor. 409 AI sisteminin analiz edildiği çalışmada, sistemlerin %86'sının iç verimlilik için kullanıldığı, ancak kayıtların bu sistemlerin işletilmesinde gereken insan müdahalesi, eğitim süreçleri ve belirsizlik yönetimini sistematik olarak gizlediği tespit edildi. Araştırmacılar, "egemen yapay zeka" söylemi ile bürokrasideki gerçek uygulamalar arasında keskin bir farklılık olduğunu vurguluyor.

arXiv (CS + AI) 0