Yapay zeka sistemlerinin kararlarını açıklamada kullanılan mevcut yöntemlerin matematiksel açıdan yetersiz olduğu ve kritik durumlarda yanıltıcı sonuçlar verebileceği yeni bir çalışmayla ortaya kondu.
Yaklaşık on yıldır karmaçık makine öğrenmesi modellerini açıklamak için sembolik olmayan yöntemler tercih ediliyor. Ancak bu yaklaşımlar matematiksel kesinlikten uzak olduğu için, özellikle yüksek risk taşıyan uygulamalarda ciddi sorunlara yol açabiliyor.
Çalışmada, açıklanabilir yapay zeka alanında yaygın kullanılan Shapley değerleri ve SHAP aracının provable şekilde eksiklikler barındırdığı gösterildi. Bu araçlar, bir modelin kararında farklı özelliklerin ne kadar etkili olduğunu belirlemeye çalışırken matematiksel açıdan kesin olmayan sonuçlar üretiyor.
Araştırmacılar, bu sorunun çözümü olarak sembolik matematiksel yöntemlere dayanan yeni yaklaşımlar öneriyor. Bu yöntemler, özellik önemini değerlendirirken daha katı matematiksel temeller kullanarak güvenilirliği artırıyor.
Özellikle tıp, finans ve güvenlik gibi kritik alanlarda kullanılan yapay zeka sistemlerinde, kararların doğru açıklanması hayati önem taşıyor. Yeni yaklaşımlar, bu sistemlere olan güveni artırarak daha güvenli kullanım imkanı sunuyor.