Yapay zeka araştırmacıları, AI sistemlerinin karar verme süreçlerini daha anlaşılır hale getiren yenilikçi bir yöntem geliştirdi. CoAt-CBM (Concept-wise Attention for Fine-grained Concept Bottleneck Models) adlı bu sistem, özellikle görsel verileri analiz eden AI modellerinin şeffaflığını artırıyor.
Mevcut Concept Bottleneck Model (CBM) sistemleri, CLIP gibi büyük görsel-dil modellerinin öğrendiği bilgileri kullanarak etkileyici performans gösterse de, iki temel sorunu bulunuyor. İlk olarak, önceden eğitilmiş modellerin önyargıları nedeniyle kavramları yanlış düzeyde anlayabiliyor veya yapısal varsayımlara aşırı bağımlı kalabiliyor. İkinci olarak, Binary Cross-Entropy kayıp fonksiyonu kullanılarak yapılan ince ayar sürecinde her kavram bağımsız olarak ele alınıyor, bu da kavramlar arasındaki karşılıklı ilişkilerin göz ardı edilmesine yol açıyor.
CoAt-CBM bu sorunları çözmek için öğrenilebilir kavram odaklı görsel sorgular kullanıyor. Bu yaklaşım, her kavram için özel olarak tasarlanmış görsel gömme vektörleri elde etmeyi sağlıyor ve böylece modelin hangi görsel unsurları hangi kavramlarla ilişkilendirdiğini daha net bir şekilde ortaya koyuyor.
Bu gelişme, özellikle tıp, güvenlik ve finans gibi kritik alanlarda kullanılan AI sistemlerinin kararlarının daha iyi anlaşılması açısından büyük önem taşıyor.