Yapay zeka alanında devrim niteliğinde bir çalışma, büyük dil modellerinin (LLM) mantık yürütme süreçlerinin şimdiye kadar düşünüldüğünden çok farklı işlediğini ortaya koyuyor. Araştırmacılar, AI sistemlerinin problem çözme yeteneklerinin görünür 'düşünce zincirleri' yerine, gizli durumlar aracılığıyla gerçekleştiğini savunuyor.
Çalışmada üç temel hipotez test ediliyor: İlk hipotez, muhakemenin esas olarak gizli durum yörüngeleri aracılığıyla gerçekleştiğini öne sürüyor. İkinci hipotez, açık yüzey düşünce zincirlerinin (CoT) asıl mekanizma olduğunu savunuyor. Üçüncü hipotez ise, görünen muhakeme kazanımlarının özel bir temsil nesnesinden ziyade genel seri hesaplama ile açıklanabileceğini iddia ediyor.
Bu ayrım neden önemli? Yapay zeka sistemlerinin güvenilirliği, açıklanabilirliği ve değerlendirilmesi tamamen bu temel mekanizmanın doğru anlaşılmasına bağlı. Eğer AI gerçekten de gizli süreçlerle düşünüyorsa, şu anda kullandığımız pek çok yöntem yetersiz kalabilir.
Araştırma, son dönemde yapılan ampirik, mekanik ve anket çalışmalarını yeni bir çerçeve altında yeniden organize ederek, AI muhakemesinin gerçek doğasını anlamaya yönelik somut adımlar atıyor. Bu bulgular, gelecekteki AI sistemlerinin tasarımı ve güvenliği açısından kritik öneme sahip.