Yapay zeka sistemlerinin iç işleyişini anlamak için kullanılan temel analiz yöntemlerinden birinde kritik bir sorun keşfedildi. Temsil benzerlik matrisleri (RSM) adı verilen bu yöntem, nöral ağların bilgiyi nasıl kodladığını anlamak için yaygın olarak kullanılıyor.
Araştırmacılar, girdi verilerindeki simetrilerin bu analizleri beklenmedik şekillerde etkileyebileceğini ortaya çıkardı. İşlevsel olarak eşdeğer olan farklı yapay zeka modelleri, simetrik veriler nedeniyle tamamen farklı RSM sonuçları üretebiliyor. Bu farklılıklar, modellerin temsil geometrilerinin yanlış yorumlanmasına yol açıyor.
Özellikle stokastik gradyan inişi algoritması veya enerji düzenlemesi kullanan sistemlerde, seyrek ve değişken kodlar oluşabiliyor. Bu durum RSM sonuçlarının zamanla kaymasına neden oluyor. Araştırma ekibi, bu fenomenin görüntü verisi işleyen ağlarda da mevcut olduğunu, simetrinin gizli kaldığı durumlarda bile etkisini sürdürdüğünü gösterdi.
Bu bulgular, yapay zeka modellerinin karşılaştırılmasında kullanılan mevcut yöntemlerin sınırlarını ortaya koyuyor. İşlevsel olarak eşdeğer temsillerin basit rotasyonlarla ilişkili olmadığı durumlarda, doğrusal olmayan nöral kodları karşılaştırmanın ne kadar zorlu olabileceğini vurguluyor.