Yapay zeka araştırmalarında çığır açan bir çalışma, büyük dil modellerinin mantık yürütme ve bilgi hatırlama süreçlerinde beynimizinkine benzer şekilde 'spektral faz geçişleri' yaşadığını ortaya çıkardı. Araştırmacılar, bu sistemlerin gizli katmanlarında gerçekleşen aktivasyon desenlerini matematiksel olarak analiz ederek, AI'ın düşünme biçimini anlamanın yeni yollarını keşfetti.
Qwen, Pythia, Phi, Llama ve DeepSeek-R1 gibi 5 farklı mimari ailesinden 11 model üzerinde yapılan sistematik analiz, yedi temel fenomen belirledi. En dikkat çekici bulgulardan biri, modellerin mantık yürütürken spektral sıkışma yaşaması - yani aktivasyon desenlerinin daha düzenli hale gelmesi. Bu durum özellikle güçlü modellerde daha belirgin şekilde gözlemlendi.
Çalışmanın en ilginç keşiflerinden biri ise 'talimat ayarlama spektral tersine dönüşü' olarak adlandırılan fenomen. Temel modeller mantık yürütmede düşük spektral değerler sergilerken, talimatlarla eğitilmiş modeller bu ilişkiyi tamamen tersine çevirdi. Bu durum, AI eğitim sürecinin modellerin düşünme biçimini temelden değiştirdiğini gösteriyor.
Araştırma ayrıca, model büyüklüğü ile mantık yürütme kabiliyeti arasında matematiksel bir bağlantı olduğunu da ortaya koydu. Bu spektral ölçüm yöntemi, modellerin performansını tahmin etmede yüzde 72'ye varan doğruluk oranı sağlayabildiğini gösterdi.