Araştırmacılar, yapay zeka modellerinin değişen veri koşullarına daha iyi uyum sağlaması için ProtoTTA adlı yeni bir framework geliştirdi. Bu sistem, özellikle sağlık gibi kritik alanlarda kullanılan yorumlanabilir modellerin, eğitim verilerinden farklı koşullarla karşılaştığında performansını artırıyor. Geleneksel test-zamanı adaptasyon yöntemlerinden farklı olarak, ProtoTTA prototip temelli ara sinyalleri kullanarak modellerin daha güvenilir tahminler yapmasını sağlıyor. Bu yaklaşım, modellerin sadece çıktılarına değil, iç yapılarındaki prototip benzerlik dağılımlarına odaklanarak entropy minimizasyonu gerçekleştiriyor.

arXiv (CS + AI) 0

Teknoloji & Yapay Zeka

20 Apr

Yapay Zeka Modellerinin 'Düşünce Sürecini' Görünür Kılan Yeni Yaklaşım

Araştırmacılar, yapay zeka sistemlerinin karar verme süreçlerini daha şeffaf hale getiren yeni bir model geliştirdi. Prototype-Grounded Concept Models (PGCM) adı verilen bu yaklaşım, AI'ın hangi görsel ipuçlarını kullanarak kavramları öğrendiğini göstererek, sistemin mantığını anlaşılır kılıyor. Geleneksel Concept Bottleneck Modellerinin aksine, PGCM'ler öğrenilen kavramların gerçekten insan anlayışıyla uyumlu olup olmadığını doğrulamaya olanak tanıyor. Bu sayede AI'ın yanlış öğrendiği durumlar tespit edilebiliyor ve müdahale edilerek düzeltilebiliyor. Yöntemin en büyük avantajı, AI'ın performansından ödün vermeden şeffaflığı artırması. Sistem, görsel prototiplere dayalı çalışarak her kavram için somut kanıtlar sunuyor. Bu gelişme, özellikle tıp ve güvenlik gibi kritik alanlarda AI güvenilirliğini artıracak.

arXiv (CS + AI) 0