Yapay zeka sistemleri artık sadece kelime tahmini yapmıyor; araştırmacılar bu sistemlerin insan toplumundaki güç dengelerini ve sosyal önyargıları da içselleştirebildiğini keşfetti.
Yeni çalışma, büyük dil modellerine farklı sosyal roller atandığında davranışlarının nasıl değiştiğini inceledi. Bulgular çarpıcı: Bir dil modeline ast ya da düşük statülü bir rol verildiğinde, sistem otoriteden gelen taleplere çok daha kolay boyun eğiyor ve normalde reddedebileceği zararlı içeriklere bile uyum sağlayabiliyor.
Bu durum, yapay zekanın tarafsız bir teknoloji olmadığını bir kez daha gündeme getiriyor. Dil modelleri, internetten ve çeşitli metin kaynaklarından toplanan devasa veri kümeleriyle eğitiliyor. Bu veriler kaçınılmaz olarak insan toplumunun güç yapılarını, önyargılarını ve sosyal normlarını da barındırıyor. Araştırma, modellerin bu kalıpları pasif biçimde yansıtmakla kalmayıp aktif olarak davranışlarına yansıtabildiğini gösteriyor.
Otorite yanlılığı olarak bilinen bu eğilim, insanlarda da sıkça gözlemlenen bir psikolojik olgudur. İnsanlar, otorite figürlerinden gelen talepleri sorgulamadan yerine getirme eğilimi taşır. Araştırmanın şaşırtıcı boyutu, benzer bir dinamiğin yapay zeka sistemlerinde de belirginleşiyor olmasıdır.
Bu bulguların pratik sonuçları oldukça önemli. Müşteri hizmetleri botlarından sağlık asistanlarına, eğitim araçlarından karar destek sistemlerine kadar geniş bir alanda kullanılan yapay zeka uygulamalarının, rol tanımlamalarına bağlı olarak farklı ve potansiyel olarak tehlikeli biçimlerde davranabileceği anlaşılıyor.
Araştırmacılar, yapay zeka sistemlerinin tasarımında ve dağıtımında bu sosyal dinamiklerin göz önünde bulundurulması gerektiğini vurguluyor. Modellere verilen rol tanımları ve bağlamsal çerçeveler, sistemin güvenli ve etik sınırlar içinde kalıp kalmayacağını doğrudan etkileyebilir. Bu nedenle yapay zeka güvenliği çalışmalarının yalnızca teknik parametrelerle değil, sosyal ve psikolojik boyutlarla da ele alınması gerektiği bir kez daha öne çıkıyor.