Yapay zeka sistemleri her geçen gün daha karmaşık görevleri yerine getirebilir hale geliyor. Ancak bu sistemlerin kendi iç işleyişlerini ne kadar doğru aktarabildiği, araştırmacılar için hâlâ yanıtsız kalan temel sorulardan biri olmaya devam ediyor.

Yeni bir araştırmada bilim insanları, büyük dil modellerinin öz-farkındalık kapasitesini ölçmek için alışılmadık bir yöntem denedi: Modellerin 'düşünce süreçlerine' doğrudan sahte ya da değiştirilmiş içerikler enjekte ettiler. Ardından modellerin bu müdahaleyi fark edip edemediğini, yani kendi akıl yürütme zincirlerindeki yabancı unsurları ayırt edip edemediğini gözlemlediler.

Deneylerin sonuçları çarpıcı: Modeller, içlerine yerleştirilen bu yapay düşünceleri büyük ölçüde kendi özgün düşünceleri gibi benimsedi. Sisteme dışarıdan eklenen fikirler ile modelin kendi ürettiği fikirler arasındaki farkı tutarlı biçimde ayırt edemedi. Bu durum, söz konusu sistemlerin 'içgözlem' olarak tanımlanabilecek bir kapasiteden yoksun olduğuna işaret ediyor.

Araştırmanın önemi, yalnızca teorik bir merakı gidermekle sınırlı değil. Yapay zeka sistemlerinin gerçekte nasıl çalıştığını anlamak; bu sistemlerin güvenlik açıklarını, olası manipülasyonlara karşı dirençlerini ve kullanıcılara verdikleri açıklamaların güvenilirliğini doğrudan etkiliyor. Bir model kendi düşünce sürecini doğru tanımlayamıyorsa, verdiği yanıtların 'neden' üretildiğini anlamak da güçleşiyor.

Bu çalışma, YZ yorumlanabilirliği alanındaki daha geniş bir tartışmanın parçası. Araştırmacılar uzun süredir şu soruyla boğuşuyor: Modeller gerçekten mi 'açıklıyor', yoksa yalnızca tutarlı görünen ama iç işleyişle bağlantısı olmayan metinler mi üretiyor?

Bulguların pratik sonuçları da göz ardı edilemez. Özellikle tıp, hukuk veya kritik karar alma süreçlerinde kullanılan YZ sistemlerinden şeffaf ve doğru gerekçeler sunması bekleniyor. Ancak sistemler kendi süreçlerinin farkında değilse bu beklenti karşılanamaz hale gelebilir.

Araştırma, yapay zekanın yeteneklerine ilişkin bazı varsayımları sorgulatırken aynı zamanda daha güvenilir ve denetlenebilir sistemlerin nasıl inşa edileceğine dair yeni sorular da doğuruyor.